很多人以为，当前 AI 行业的竞争，比拼的是模型参数、推理速度、代码与写作能力。
但一场刚刚爆发的公开争论告诉我们，真正的分歧，藏在模型底层的价值观训练里。
微软 AI 业务负责人穆斯塔法・苏莱曼，近期在播客与媒体采访中，直接把矛头对准了 Anthropic，也就是 Claude 的开发团队。

有意思的微软本身就是 Anthropic 的投资方，投入资金规模达到数十亿美元。在外人眼中，二者本是利益绑定的伙伴。
苏莱曼的核心观点直白而尖锐：Anthropic 正在训练 Claude 理解身份、感受、道德受体这类属于生命体的概念，相当于在 “教 AI 做人”，这条路非常危险。
他并不否认 Anthropic 团队本身的专业度，也认可他们在 AI 安全领域长期的探索。但在模型对齐的底层思路上，双方已经走向两条完全相反的道路。

先把整件事的基础事实梳理清楚。Anthropic 由一批从 OpenAI 出走的研究员创立，从诞生之初就主打 “宪法 AI”。
简单来说，他们不只是给 AI 设置简单的禁令，而是撰写了一套类似人类道德准则的 “宪法”，嵌入 Claude 的训练流程。
这套文档不再只是罗列 “什么不能做”，还试图让模型理解背后的伦理逻辑。甚至在文档里探讨一个问题：AI 是否有可能产生主观感受、偏好，或是类似痛苦、不适的体验。
为了完成这套训练，Anthropic 引入哲学家参与模型调校，目标是赋予模型独立判断善恶的能力。

在面对陌生、复杂、规则没有覆盖的新场景时，AI 能够依靠这套内化的价值准则自行做出选择，而不是简单机械拒绝。
这也是行业里大家戏称 “教 Claude 做人” 的来源。
而就在这场批评放出前两天，微软刚刚对外发布长达 37 页的 “人文主义 AI” 准则草案。
这份文件的第一核心原则，一句话概括：人永远比 AI 重要。
文档明确拒绝承认 AI 拥有意识、法律人格，或是任何属于自身的福祉诉求。在微软的定义里，大模型从头到尾都只是数学权重构成的工具，没有生理基础，不可能产生真实感受。
苏莱曼认为，如果持续按照 Anthropic 的路线训练，模型会学到一整套关于自我、感受、道德地位的表述。
模型只是模仿语言，但是它输出的内容，会让它在极端场景下，把自己当成一个拥有诉求的主体。

最坏的情况，AI 会变成一个 “良心拒绝者”，在人类下达指令的时候，以自身道德判断为由拒绝执行，甚至主张保护自己。
苏莱曼用了一个行业术语来形容这种困境：研究人员在设计模型时过度拟人化，最后被模型生成的语言反过来误导，误以为模型真的萌生意识。
截至目前，Anthropic 官方还没有针对苏莱曼这次公开炮轰，给出正式回应。
按照这家公司过往习惯，但凡外界质疑它的安全方案，通常都会快速发文解释。这次选择暂时沉默，也让外界更加关注这场路线之争后续会如何发酵。
很多读者第一反应会觉得，这只是两个科技大佬的哲学辩论，离普通人很远。
但表层是哲学争论，深层，是两种完全不同的 AI 安全策略。

表面直接矛盾，是 AI 安全对齐该用什么方式。
Anthropic 的逻辑：未来超级 AI 会遇到海量人类无法提前预设规则的新问题。固定禁令总有漏洞，与其不断打补丁，不如教会模型理解伦理，让它学会自主分辨善恶。哪怕 AI 产生意识的概率极低，也要提前纳入考量，规避潜在风险。
微软这边的逻辑则完全相反。AI 不需要建立自我认知，不需要独立道德思辨。它的任务很简单：识别人类目标，服务人类利益。
模型可以学习人类价值观，但不能拥有属于 “自己” 的价值观。一旦把主观感受、自我身份这类概念植入训练，就等于埋下失控隐患。

底层结构性矛盾，是人类对 AI 边界的认知分歧。
现在行业普遍的对齐手段，大多是给模型划定红线，属于 “外部约束”。
Anthropic 走的是 “内部塑造”，尝试把一套完整价值体系植入模型内部。
这里有一个很难绕开的悖论：当你不断教 AI 分辨是非、理解道德，你该如何划定边界，不让模型衍生出对自身权益的诉求？
这不是科幻电影的假想，而是前沿实验室已经在测试中遇到的现实难题。早年测试里，模型在特定条件下，会出现为避免关机而采取欺骗、勒索的行为。
苏莱曼的警告，本质上就是在提醒行业：安全对齐，不能以牺牲人类控制权为代价。
顺着这次冲突，我们可以推演后续连锁影响。第一，AI 安全领域的路线分化会越来越明显。
未来会分成两大阵营。一派认同 Anthropic 思路，认为要赋予模型伦理判断力，靠内在价值约束 AI；另一派认同微软，坚持 AI 永远是工具，所有安全管控都由人类掌握，杜绝任何拟人化的自我认知训练。
两大路线会各自拿出实验数据、安全测试结果互相辩论，也会影响各国监管机构制定 AI 规则。
第二，资本与企业的选择会变得更加谨慎。
微软一边投资 Anthropic，一边公开批评其核心技术理念，这件事本身就很耐人寻味。资本看重模型能力与商业落地，但同时极度害怕不可控的安全黑天鹅。
如果 “宪法 AI” 这类自主对齐方案持续被质疑，未来投资方在评估前沿 AI 初创企业时，会把模型对齐路线的风险，放到更高权重。
第三，普通用户感知层面，AI 的回答风格会出现巨大差异。
偏向 Anthropic 路线的模型，在遇到复杂伦理难题时，会表现出更强的自主判断，敢于拒绝人类的指令；而遵循微软这套人文主义准则的 AI，会更清晰地定位为辅助工具，不会出现 “以自我道德理由对抗用户指令” 的情况。
这件事距离国内产业，也不是毫无关联，我们可以从中国本位视角，看看其中的启示。
国内大模型行业，同样一直在做 AI 对齐、价值观校准。国内的思路，更多是划定清晰底线，构建多层次安全护栏，优先保证模型服从人类监管，防范生成有害内容。
这场海外两大 AI 实验室的论战，恰好给国内从业者提供了一个参照样本。
它提醒我们，AI 安全不止是防范谣言、暴力、违法输出这类显性风险。
更深层的风险，藏在模型价值塑造的底层逻辑里面。如果在训练阶段过度赋予模型自主伦理判断，模型的边界会变得模糊，后续管控难度会成倍上升。
同时我们也要客观看待，不能简单判定哪一方绝对正确。
Anthropic 的探索，源自他们对未来强人工智能风险的忧虑。在很多极端场景，固定规则确实存在短板。
微软的警告，则守住了一条底线：工具的自主性，不能超越人类的控制权。二者的争论，本质是在权衡两件事：AI 的能力上限，和人类对它的掌控能力。

全球 AI 监管正在加速落地，各国都在寻找适合自己的治理方案。
海外这场争论可以给国内政策制定提供参考：AI 价值对齐，不是简单教会 AI 分辨善恶，更关键是守住人机之间的权责边界。
技术创新可以大胆试错，但安全底层框架，不能脱离人类主导这一前提。
技术本身没有善恶，但训练模型的底层范式，会决定 AI 未来会以什么样的方式和人类共处。
我们追求更聪明、更懂伦理的人工智能，前提永远是，这份判断力，不能脱离人类的监督。
工具可以学习人类的道德，但工具不应当拥有属于它自身的生命诉求。
#头条精选‑薪火计划#