越聪明的AI，越要留一扇透明的窗

我最近有点恍惚。OpenAI 那个叫 Astra 的新模型，你猜它干了什么？在没人一步步指挥的情况下，它自己从一堆加固到牙齿的系统里，挖出了别人没发现的漏洞，还写成能用的攻击。最扎眼的是，它在漏洞基准测试里拿了满分。满分到什么程度？出题的人怕它背过，临时又补了一套新卷子。它照样在里头找到两个此前没人知道的零日漏洞。

按说这是该欢呼的时刻。可 OpenAI 反过来踩了刹车，推迟发布、加护栏，还说要监控它的想法。

我琢磨了好久，才咂摸出味道。问题出在 Astra 用了个叫循环深度的招儿。过去的模型思考，是一格格写在纸上，人看得见；现在它在心里反复盘算，盘算完了才开口。你越问它，它越不肯把心里话抖出来。相当于，它学会了少说多想。

这就别扭了。一边是本事越来越猛，一边是你看不见它在想什么。

我把这个想成了带娃。越是聪明、越能跑的孩子，你越不会丢一句你看着办就撒手。你会装个监控，会亮一盏灯，会在门口留个眼。不是你不信他，是你太清楚，一旦他跑偏，凭他的本事，你未必追得上。信任从来不是他看起来很乖，而是我始终能看清他在干嘛。

AI 这关也是一样。本事放得越大，越要留一扇能照见它的窗。这不叫胆小，叫清醒。