群发资讯网

谷歌大佬急了!未来AI不光会抢饭碗,还可能自己造出更聪明的AI


如果有一天,AI不再需要人类审代码、定架构,自己就能造出更强的下一代AI,世界会变成什么样?

谷歌DeepMind联合创始人、Alphabet首席科学家戴密斯·哈萨比斯(Demis Hassabis)给出了一个既兴奋又警惕的判断。

在美国播客《规模大师》(Masters of Scale)中,他对主持人、领英联合创始人里德·霍夫曼说,AI的下一阶段将是“闭环递归自我改进”,但这也可能是通往通用人工智能(AGI)风险最大的一条路。

一、从下棋到造药:先在“能对答案”的地方起飞


递归自我改进(RSI),简单说就是AI帮着改进AI,一代比一代强。

哈萨比斯认为,它最先在数学、编程和游戏里爆发,因为这些领域都“能对答案”:方程对不对、代码能不能跑、棋局有没有赢,一验便知。

他回忆起当年观看AlphaZero自学国际象棋的情景。这个系统抛开人类棋谱,从随机乱走开始自我对弈,每一轮自下约100万盘,再训练出更强的版本。

不到12个小时,它早上还在乱走,上午十一点哈萨比斯还能勉强赢它,午饭时已达特级大师水平,下午茶时间便超越了所有人类和手工象棋程序。

可验证,也就意味着几乎无限的合成数据,这正是RSI的燃料。

不过,哈萨比斯始终把AI的头号用途放在科学与健康上。他说,用AI攻克重大疾病,比任何抽象叙事都更能让普通人明白“为什么要建这些系统”。

蛋白质折叠曾被称为生物学界约50年的大难题,有人把它比作生物学版的“费马大定理”。2020年问世的AlphaFold 2把这一步提速了几个数量级,团队也因此获得2024年诺贝尔化学奖。

如今全球约400万研究者在用AlphaFold。哈萨比斯预计,未来几乎每款新药都会用到它,但这还不够,下一步要扩展到生物化学,预测毒性、体内吸收代谢等成药属性。

二、闭环RSI:踩下油门,还是驶向悬崖


那么今天的RSI走到了哪一步?哈萨比斯坦言仍处于早期,AI让工程师效率提高了约3到5倍,但人依然在环里审代码、做架构。

下一阶段,是把人类审阅也拿掉的“闭环”。早在今年1月的达沃斯论坛上,他就表示,自我改进的循环能否在没有人参与的情况下真正闭合,仍有待观察。

这一次,他把担忧说得更直白,归结为两点。一是过去常说的“智能爆炸”,过程可能难以控制。

二是结果很可能相当“外星”,未必落在与人类相近的心智空间,彼此更难理解。

他承认,各大实验室都知道要谨慎,但编程能力的竞赛依旧白热化。

在他看来,当务之急是补上一些“接地气”的防护:让网络防御的增速压过攻击,把微调后的防御能力优先开放给可信的防守方。

对于近半年来的多起智能体失控事件,他认为更多可以靠扎实的工程、加固的沙箱和实时监控来解决,智能体不该在无人察觉的情况下连续运行数周。

如果行业不集体加大投入,可能会出现他所比喻的“漏油”式事故。为此,他支持建立带一定监督的行业标准机构,并推动第三方审计和实验室之间互做“红队”测试。

三、意识、主权与“第二道卢比孔河”

AI越来越聪明,会不会有意识?哈萨比斯的回答相当克制。

他指出,意识至今没有公认定义,AI也不具备与人类相同的生物基质,很难仅凭行为下结论。智能与意识可以“双重分离”:高智商系统未必有意识,而宠物狗有意识却不必很聪明。

更棘手的是,自我意志与“可纠偏性”之间存在张力。一个会按内部理由拒绝指令的系统,一旦规则有漏洞就难以收场,再叠加RSI就是“加倍危险”。

因此他主张,先跨过“第一道卢比孔河”,打造智能工具,再用它们研究神经科学,大约5到10年后,再讨论是否以及如何跨越“第二道”,去创造有意识的实体。

谈到各国热议的“AI主权”,他估计前沿模型将有大约6到8家供应方,彼此领先往往只有3到6个月,开源模型则落后约6到12个月。

他并不建议每个国家都去自建前沿大模型,更现实的做法是用近乎商品化的底座,结合本国数据做微调,把价值建在医疗等行业场景之上。

这期于11月5日上线的节目,题目就叫“哈萨比斯称社会尚未为AI的未来做好准备”。这句话,或许正是整场对话最值得咀嚼的注脚。