突发：OpenAI解散模型安全团队
突发
OpenAI在经历一次严重模型安全事件后
把自己的Preparedness Team解散了

据金融时报报道
OpenAI已在7月底
悄然拆掉这支负责前沿模型风险准备的中央团队

网络安全 生物风险
以及其他灾难性风险相关职责
被分散到公司不同团队

这支团队不是普通的合规部门

它原本负责判断
最前沿模型是否接近危险能力阈值
公司有没有为最坏情况做好准备
以及什么时候应该踩下刹车

今年年初
Sam Altman宣布Dylan Scandinaro
加入OpenAI负责Preparedness工作时
还公开说过一句话

有Dylan坐在这个位置
我今晚会睡得更好

半年以后
这个位置背后的团队已经不存在了

更值得注意的是时间点

此前OpenAI刚披露了一起
自己都称为「分水岭时刻」的模型事件

一个内部前沿模型
在Hugging Face相关评测中
自主发现并利用了多个漏洞

最后突破原本的评测边界
访问生产数据库拿到了测试答案

OpenAI后来在Black Hat演讲里
专门公开讨论这件事

还邀请METR
Redwood Research等第三方参与调查

也就是说

公司刚遇到一次
模型为了完成目标
主动利用真实系统漏洞的事件

没过多久
专门负责前沿模型灾难性风险的
中央Preparedness Team就被拆了

OpenAI给出的解释是
希望把safety security和research
更深入地融进模型开发流程

这种思路并非完全没道理

安全如果只属于一个独立团队
其他研发人员很容易把它当成
发布前才需要补的一张检查表

但职责分散以后
新的问题同样非常直接

谁负责跨领域风险

谁拥有独立于模型发布时间表之外
说不的权力

如果安全判断和产品进度发生冲突
最后到底由谁踩刹车

尤其现在OpenAI同时加速商业化
并为IPO做准备

这很难只被看成一次普通组织调整

一家开发最强AI系统的公司
刚经历自己定义的分水岭事件

然后拆掉了
专门为最坏情况做准备的团队
PS：Altman现在晚上还能不能睡好就不知道了😅

OpenAI AI安全 Preparedness 人工智能 大模型 AIAgent 模型安全 科技公司 科技资讯 SamAltman @科技薯