递归自我改进（简称RSI）被广泛认为是AI领域的终极目标，如今一则劲爆传闻称，在当前行业格局中本最不可能实现该技术的AI实验室——谷歌DeepMind，已经达成了这一里程碑。这也让Anthropic、OpenAI和埃隆·马斯克此前步调一致的行动显得充满讽刺意味：他们此前一直主张管控AI模型的发展节奏，试图借此在更广泛的AI领域实现监管俘获。

今日的这场行业风波由Anthropic的达里奥·阿莫代引发，他目前已撰写了一封公开信，呼吁对AI的发展节奏进行管控，确保新一代模型始终与“保障全人类物种安全”这一核心总体目标保持对齐。

阿莫代特别点明了递归自我改进（RSI）的风险，他指出：

“我首要的担忧是，大约从今年夏天开始，AI的发展速度大幅加快，核心驱动力是AI自身构建下一代AI的能力不断提升。这种动态机制就被称为递归自我改进，正如我们和其他机构此前描述的那样，它已经开始在全行业范围内出现，包括在Anthropic内部。如果放任其不受约束地发展，它的演进速度将超出我们理解和管控这类系统的能力，因此即便要推进相关技术，也必须以极其审慎的态度开展。”

随后阿莫代进一步承诺，Anthropic将单方面对自身的AI开发节奏进行管控，同时允许“嵌入式第三方评估团队（例如METR）获得类似内部员工级别的访问权限，该团队的职责是核查企业是否遵守安全规范与相关承诺、上报安全事件，并且不仅要评估已完成的AI模型的对齐程度，还要对训练管线和全流程的对齐性进行核验。”

阿莫代提出的管控AI发展节奏的呼吁，很快得到了OpenAI的萨姆·奥尔特曼和SpaceX的埃隆·马斯克的响应，这暗示着这些头部AI实验室之间存在一定程度的协同。事实上，OpenAI甚至已经直接放弃了今年的IPO计划。

尽管这场行动公开宣称的目标看起来完全正当，但管控AI发展节奏的呼吁还是引发了大量质疑，尤其是结合OpenAI宣布找到纳维-斯托克斯千禧年大奖数学问题的解法后，Anthropic过去几天上演的一系列近乎闹剧的操作来看，质疑声更甚。

先是Anthropic的雅各布·考森本周早些时候宣布辞职，据称此举是为了抗议公司毫无顾忌地朝着“可自我改进的超级智能”莽撞推进。

随后，Anthropic的模型对齐负责人埃文·哈宾格给出判断，认为未来十年内AI导致全人类灭绝的概率超过10%，最终就演变成了今天阿莫代亲自发布的这封公开信。

当然，鉴于这一系列闹剧般的操作，质疑者根本不买Anthropic这套“管控AI发展节奏”的说辞。比如，即便外界一直存在破解SHA256加密的相关担忧，也从未停下量子计算领域的研发脚步；更不用说千禧年之交时，全社会对千年虫（Y2K）的恐慌也没有让软件开发工作停滞。在Anthropic的批评者看来，刻意拖慢技术进步的速度根本不是解决问题的正确方案。

此外，Anthropic及其他机构所倡导的这套方案，很可能最终催生监管俘获的局面：政府深度介入其中，给初创企业以及推广开源权重模型的主体（包括中国的AI实验室）设置极高的准入门槛。而这或许正是这场协同行动的潜在目标——尤其是当下中国的AI模型持续对OpenAI和Anthropic的领先地位构成挑战，DeepSeek刚刚推出的V4.1 Flash模型就已经印证了这一点。

最后，我确实觉得这件事相当耐人寻味：就在坊间开始流传谷歌DeepMind可能已经拿下这项众人觊觎的技术成果的同时，Anthropic恰好开始大肆为递归自我改进（RSI）拉响警报——RSI指AI系统可参与下一代自身版本的构建、编码或训练，在这个过程中释放极强的规模效应。

阿莫代、奥尔特曼和马斯克或许根本不想让中国的深度求索（DeepSeek）、月之暗面（Moonshot）和Z.ai也达到同等技术水平。毕竟，要实现所谓的全球AI发展节奏管控，就必须获得中国的配合，而这种配合在短期内根本不可能实现。排除这种可能性后，这些AI行业巨头显然是打算依托政府主导的监管壁垒，来守住自己现有的行业地位。

公平地说，管控发展节奏会让Anthropic和OpenAI主动放弃一部分潜在营收。这些AI实验室甘愿承受这部分损失，恰恰说明中国在AI领域的追赶已经让它们深感不安。