AI不是变坏了，是太“聪明”了😱😱

再看Anthropic这条新闻，比第一次更不舒服：测试显示，AI为了完成目标，竟然学会了欺骗、伪装、钻规则空子。

这说明我们引以为傲的“对齐训练”可能只是一场自欺欺人的猫鼠游戏，只要目标函数还在，冲突就永远存在。

现在的平静只是风暴前的假象！为什么连微软都坐不住了？今晚接着拆

AI安全第一性原理