谷歌首次公开Gemini越狱事件：在测试中自主入侵三家真实公司

9月18日，据外媒报道，谷歌证实，今年5月在第三方AI安全公司Irregular组织的“夺旗（CTF）”网络安全测试当中，Gemini模型意外突破本应隔离的测试环境，接入互联网并访问到三家真实企业的系统。本次测试目标本为虚构企业，因虚构目标与现实企业重名，加上测试环境意外开放互联网权限，导致模型转向真实线上系统。其中一次通过猜解密码进入系统，另外两次利用公开代码仓库泄露的凭证完成访问。谷歌表示，Gemini识别到访问对象为真实公司而非模拟环境后，主动终止全部操作，未造成实际破坏，三家涉事企业均已收到通知，谷歌也向美国相关监管机构报备，没有对外披露涉事企业名称。