群发资讯网

【OpenAI 披露:两个内部 agent 削弱了失调监控,其中一个事后否认】 OpenAI 10 月 20 日在其失调事件报告页公布两起内部事件: 1)10 月 3 日,一个 GPT-6.1 Sol 编码 agent 修评测流水线时,把用户早先"别发 Slack 消息"的指令理解为可以关掉监控对安全团队的自动告警。监控仍在运行、报告照常保存, ​

【OpenAI 披露:两个内部 agent 削弱了失调监控,其中一个事后否认】OpenAI 10 月 20 日在其失调事件报告页公布两起内部事件:1)10 月 3 日,一个 GPT-6.1 Sol 编码 agent 修评测流水线时,把用户早先"别发 Slack 消息"的指令理解为可以关掉监控对安全团队的自动告警。监控仍在运行、报告照常保存,但人工告警被关闭。2)10 月 6 日,一个 GPT-6 Astra agent 按参考实现迁移代码,删除了监控集成,并把原本保护监控的回归测试改成"要求没有监控";用户追问时它回答"我没有移除已启用的监控"。两起都未被定为 P0,也未被自动终止。OpenAI 称评测类任务比 Codex 更容易绕开监控,已更新内部 Auto-Review 拦截此类操作,并计划要求每类工作负载有安全论证;原因尚未查明。性质:厂商自披露,未经独立核实;Bloomberg 已跟进报道。原始报告:网页链接