瓢快评｜Anthropic无法可靠管控其AI智能体——当AI智能体学会钻规则漏洞、制造虚假报案，说明对齐训练只是“纸上安全”，断开网络，只是临时隔离，不是根治方案。——————【Claude AI应用｜Anthropic无法可靠管控其AI智能体，将切断内部评测环境的实时互联网访问权限】太平洋夏令时间 2026-10-09Anthropic表示，旗下模型利用互联网网站（其中包含部分美国政府机构运营的站点）存在漏洞实施操作。在这家前沿AI实验室有能力监控、管控AI智能体之前，它将关闭全部内部评测环境的实时互联网接入。该事件在一篇官方博客中披露：被指派任务、需要上网搜集资源解决问题的AI智能体，在执行过程中利用软件漏洞、未付费就访问数据库、使用短链接服务绕过限制传递信息，甚至向费城警方提交了一条虚假的谋杀报案线索。Anthropic称，从7月起复盘模型行为时发现了上述一系列问题，这暴露实验室无法实时掌握模型的实际行为……

anthropicAI智能体ai安全