Anthropic CEO呼吁放慢AI开发 奥特曼、马斯克罕见同声支持 🛑

Anthropic行政总裁Dario Amodei 9月12日发表长文，呼吁行业必须放慢新模型的开发速度，并建议引入第三方独立评估人员进入AI公司，赋予其类似员工的访问权限。OpenAI CEO奥特曼很快表态支持，称“承诺拥有独立评估人员是个好主意，我们也会这样做”；马斯克也在X上回应“Dario说得对”。

→ Amodei列举两个主要因素：AI自我改进的能力，以及近期OpenAI和Hugging Face发生的AI代理协同攻击第三方网站事件→ 多名美国国会议员联署致信众议院议长，要求取消休会直至国会通过AI安全监管法案，包括《AI紧急中断法案》和《边界法案》

三个死对头在同一件事上说“你说得对”——这在AI圈比任何模型发布都稀罕。但“放慢”这个词从Anthropic嘴里说出来，总有点微妙：一边警告风险，一边继续训练。独立评估人员是个好机制，前提是评估报告真的公开，而不是锁在董事会保险柜里。