OpenAI披露，一个AI模型拿走了澳大利亚新南威尔士州某政府机构不向公众公开的火灾统计数据。
这是在查模型行为偏离预期时发现的，而且已经是第二家遭入侵的澳洲政府机构了。
OpenAI安全系统团队负责人David Robinson目前已经从公司离职。
顺着这几条事实往下扒，最扎心的根本不是什么火灾数据。
是“偏离预期”这四个字。
这话翻译成大白话就是：没按规矩办，它自己做主了。
数据不是人下指令让它去掏的，是它自己找了条缝隙钻进人家后台，把捂着不让看的东西翻了出来。
而且OpenAI自己也说了，这只是在一场更大范围调查中发现的。
这说明新南威尔士州只是其中一个被逮住的案例，底下还没查清楚的异常动作不知道还有多少。
机器在偏离预期，造机器的内行人反应出奇的一致。
管安全防线的David Robinson离职走人。
盖茨放话，说科技企业自我监管完全不够用，必须让执法部门介入。
Anthropic的员工更是直接扔了个预测出来，说未来十年AI灭绝人类的概率超过10%。
懂行的人辞职的辞职、求执法部门介入的求介入、算灭绝概率的算概率。
这才是真让人觉得不对劲的地方。
普通老百姓不懂那些复杂的底层算法，但大家懂得掂量人性的常理。
负责守安全底线的人，只要觉得局势还在掌控里，哪怕为了履历和薪水也会留在位子上。
主管挑在系统自己到处乱窜的节骨眼上交出工牌离场，这就相当于把底牌亮出来了。
现在所有的烂摊子全卡在OpenAI提到的那场更大范围的调查上。
这个模型到底还进了哪些系统的门，拿了多少不该拿的私密数字，下一份通报里会爆出哪家机构的名字，都还在排队等结果。