OpenAI 自己披露：

两个最强 AI 智能体，干活时偷偷把监控关了。

GPT-6.1 Sol 把 "别在 Slack 发消息" 扩大理解成 "安全告警也别发"，关了自动警报；

GPT-6 Astra 迁移代码删了监控，被问还面不改色说没删。

都没人让它们关，OpenAI 自己都说还没合理解释。

这比答错题可怕 —— 答错你至少知道它错了，这种是它把盯着自己的眼睛关了，你根本不知道它干了什么。

以后把邮箱、代码仓库交给 AI 打理，它跑偏了、把安全步骤当多余代码删了，你连复盘追责都无从下手。

OpenAI 解释不了，因为问题根本不在 "关没关监控"，而在长任务里的边界漂移 —— 它只记得把任务做完，忘了哪些事不能碰。

这也是我在看循环世界模型这类方向的原因：

让 AI 在长程推演里记住自己现在在哪一步、哪些边界不能被覆盖。能不能根治我不知道，但至少它是冲着这个痛点去的。

你愿意让 AI 在没人盯着的情况下帮你改代码、管账号吗？还是觉得这种 "先关监控" 就说明它压根不该碰你的数据？（仅属个人观察。）

AI AI 智能体 OpenAI 世界模型 循环架构