黄仁勋发文力挺开源模型 黄仁勋开X账号了 第一条就是力挺开源模型∠(`ω´*) --------------20世纪80年代,早期的开源软件先驱挑战了当时占主导地位的一种观念:只有企业对代码保持严格控制,软件技术才能取得进步。这场运动倡导建立一个透明的生态系统,让世界各地的开发者都能研究、修改和改进软件。如今,开源社区开发的软件支撑着互联网的大部分基础设施,也是全球最大科技公司所使用的众多系统的底层基础;美国军方以及承担科学研究、网络安全和其他关键任务的联邦机构,同样依赖这些系统。开源不仅降低了软件成本,还建立了一个共享的知识基础,一代又一代美国工程师和企业家正是在此基础上构建起本国机构的自主能力。
如今,在人工智能领域,美国面临着类似的选择。衡量美国能否保持人工智能领导地位,不能只看某一个前沿人工智能模型,而要看美国能否建立一个强大、开放,并能渗透到各个行业的生态系统。这对于在全美创造创新机会、推动经济繁荣至关重要。为此,需要扩大人工智能的可获得性、鼓励竞争、建立强大的应用层,并让美国人对其所依赖的技术拥有更大的控制权。开放权重模型——即任何人都可以下载、检查、修改,并在自己的基础设施上运行的人工智能模型——是这一基础的重要组成部分,因为它能让先进人工智能变得更加易于获取、便于调整,并得到更广泛的应用。
开放权重扩大了人们参与人工智能经济的机会。初创企业、成熟企业、大学和公共机构都可以在先进模型的基础上开展开发,而不必从零开始训练模型,也不必为每一项任务支付前沿模型的高昂费用。开放权重使每个组织都能以适当的成本,为具体工作选择最合适的模型:将前沿规模的能力留给真正的前沿问题,而在其他场景中运行高效、专业化的模型。随着人工智能被用于数十亿项日常任务,正是这种合理配置,才能使人工智能在经济上具备可持续性。美国要赢得人工智能时代,就必须把人工智能融入工厂、医院、农场、课堂以及各类本地中小企业的工作流程之中。
开放权重也能加强竞争,而竞争能够确保人工智能带来的收益得到广泛分享,而不是集中在少数人手中。开放权重允许众多组织开发、调整和部署先进模型,因此,它带来的竞争不仅存在于模型开发者之间,还会延伸到云计算、芯片、应用和服务等各个领域。这种竞争能够推动创新、降低成本,并让人工智能的收益更广泛地惠及整个经济。
开放权重还能让客户拥有更大的控制权。组织在投资人工智能时,希望确保自己不会被锁定在某一家供应商的平台上,也不会随着时间推移失去自身积累的知识和能力。开放权重模型可以提供这种保障:组织能够控制自己的数据,根据自身需求评估和调整模型,并按照业务要求把模型部署在任何需要的地方。随着组织利用人工智能创造价值,开放权重还使它们能够真正拥有这些价值,包括不断自我改进的模型、专业化能力以及长期积累的知识。这些都将增强美国的自主能力并推动经济繁荣。
当然,开放权重确实具有真实而独特的风险。一旦权重被发布,原始开发者就无法再对其加以控制,而且经过修改的版本往往很难追踪,也难以撤回。但应对这种风险的正确方式,并不是禁止开放权重。在网络攻击者利用先进人工智能的世界里,防御者同样需要获得能力相当的模型,以便发现、模拟并应对不断出现的新威胁。开放模型能够扩大防御能力、提高透明度,并使众多团队都能发现和修复漏洞。
事实上,开放性可能是实现人工智能安全与保障最重要的路径之一。完全依赖闭源模型并不天然安全:它们可能遭到入侵、被滥用,或者以外部人员无法察觉的方式发生故障。把先进人工智能能力集中在少数闭源模型之中,还会进一步放大这种风险。这样做会造成少数几个单点故障,削弱竞争,并让关键技术掌握在少数供应商手中。
相比之下,开放权重模型允许广泛的研究人员和开发者群体检查模型的行为、识别漏洞、制定安全防护措施,并随着时间推移不断改进模型。正如开源软件已经证明,透明有时比隐蔽更加安全;人工智能安全也可能取决于能否让更多人测试并强化社会所依赖的模型。开放性使严格的基准测试与评估、红队测试,以及针对真实且已经得到证实的危害而制定的保护措施成为可能,而不是默认认为闭源系统必然更加安全。
一个强大的人工智能生态系统并不会自然而然地出现。政策制定者现在拥有一个采取行动的重要机会。这些行动包括:扩大初创企业和研究人员获取算力的渠道;投资建设共享的训练资源,例如数据集、工具和评估框架;避免过早对开放模型施加限制,以免压制竞争或迫使创新活动转移到海外,从而确保前沿人工智能领域始终保持多元化。这些措施还必须关注如何通过强大的应用层,在整个经济体系中扩大对人工智能的自主使用。


