【五眼：人工智能可能在数月内突破政府和企业的防御体系】

（CNN）一个国际情报机构联盟在一份联合声明中警告说，能够发起足以压垮政府和企业防御系统的大规模网络攻击的人工智能模型，距离出现可能只有几个月，而不是几年。

由美国、英国、加拿大、澳大利亚和新西兰组成的“五眼联盟”敦促各国政府和企业领导人“立即采取行动”，加强对复杂网络威胁的防御。

在特朗普政府下令人工智能巨头 Anthropic暂停外国公民使用其最先进的模型 之后，这一罕见的行动呼吁凸显了西方国家对这项新兴技术的能力日益增长的不安。

“预计前沿人工智能模型将超出目前业界的预期，从根本上改变网络攻防能力。时间表不是几年，而是几个月，”该情报机构联盟周一在一份声明中表示。

“人工智能 (AI) 的发展格局正在迅速改变网络风险，我们必须迅速采取行动才能保持领先地位。”

人工智能研究人员和高管对这项不断发展的技术表达了各种安全方面的担忧，五眼联盟领导人称这项技术能够降低“恶意行为者的门槛，并增加攻击的速度和复杂性”。

人工智能专家表示，这一信息“非常严峻”，可能会产生令人担忧的影响，不仅对各国政府和企业，而且对世界各地的中小企业也是如此。

“这表明，在人工智能时代，安全漏洞将会发生。这不是会不会发生的问题，而是何时发生的问题，所以现在做好准备非常重要，”悉尼大学美国研究中心战略技术项目主任Olivia Shen告诉CNN。

美国政府针对 Anthropic 公司的 Mythos 5 和 Fable 5 模型发布的广泛指令，是政府为应对人工智能模型的先进能力而采取的最广泛的行动之一。

Mythos 曾引发广泛的网络安全担忧，因为该公司声称其极其擅长发现安全漏洞。但 Anthropic 公司表示，他们认为美国政府已经“知晓”一种可以“破解”其公开的 Fable 模型（即绕过其内部安全防护措施）的方法。Anthropic 公司和美国政府一直在会面，试图解决这个问题。

Shen表示：“这件事真正关键的教训是，人工智能的能力正在以惊人的速度发展。”他还补充说，尽管目前全世界的注意力都集中在 Anthropic 公司，但 其他人也可能开发出下一个功能强大的人工智能产品。

——日常企业面临最大风险

为应对这一威胁，五眼联盟领导人表示，企业和领导者应该投资网络防御，升级旧系统或修补有缺陷的软件，并限制对关键系统的访问权限。

他们补充说，虽然人工智能正被对手利用来“更快、更有效地行动”，但它也是解决方案的一部分。

该安全联盟表示：“将人工智能工具集成到安全运营中的组织可以更早地发现漏洞，提高软件质量，监控异常行为，并更快地应对安全事件。”

人工智能和国家安全专家Shen表示，许多政府和企业的防御存在“巨大漏洞”。

她表示：“那些成熟的企业，通常是大型企业，他们已经在网络安全方面投入了资金，所以准备得更充分。而那些风险更大的则是那些迄今为止投资不足的中小型企业，它们基本上就像待宰的羔羊一样。”

人工智能模型正以惊人的速度发展，独立评估显示，一些模型如今已达到网络安全专家的水平。这种发展速度似乎让试图设置限制措施的立法者们陷入了徒劳的斗争。

目前美国 尚无透明、统一的人工智能监管框架。一些专家认为政府应该参与人工智能安全方面的讨论，而另一些专家则认为，政府参与可能会扼杀人工智能产业的发展。

本月，数十名网络安全研究人员、人工智能企业家和企业高管签署了一封公开信，敦促特朗普政府承诺“以开放、科学和透明的方式处理人工智能风险评估”，并表示安全团队“必须比我们的对手更快地发现并修复他们自己新编写的代码以及几十年来遗留代码中的缺陷”。

Shen承认这就像走钢丝一样，但他表示需要制定一些“基本规则”。

“我们知道这些技术既可以用于防御，也可以用于进攻，我们需要更多的保障措施，以最大限度地发挥其在防御性网络安全方面的优势，同时将其拒之于潜在的网络对手、诈骗者和网络犯罪分子之外，”她说。

——博主注：悉尼大学官网显示，Olivia Shen是悉尼大学美国研究中心战略技术项目主任。她曾任澳大利亚内政部数据科学与人工智能战略部门负责人，在国家安全和外交政策领域拥有十余年的经验。SHen还曾担任澳大利亚国立大学 (ANU) 国家安全学院高管和专业发展项目的主任。

Shen曾是华盛顿特区战略与国际研究中心的富布赖特学者，她的研究重点是人工智能在国家安全领域的伦理问题。她还曾是洛伊研究所的索利学者、人工智能治理中心的暑期研究员，以及美国国会研究奖学金项目的澳大利亚国立大学研究员。