“人类即将获得几乎难以想象的力量。”
Anthropic CEO达里奥·阿莫迪的两篇长文，《仁慈的机器》和《技术的青春期》，我前后读了很多遍，每次都有新的感受。因为它们描述的，不是遥远的科幻，而是正在到来的未来。一篇写希望，一篇写风险，合起来才是完整的答案。
阿莫迪2026年1月发表万字长文《技术的青春期：直面并克服强大人工智能的风险》。它是《仁慈的机器》的姊妹篇：上一篇写AI做对了的世界，这一篇直面可能出错的风险，并给出"作战计划"。就在Anthropic提交招股书、即将上市的节点，这篇"风险篇"值得每个关心AI的人读完。
01｜外星人的那个问题 文章从电影《接触》开场。如果只能问外星人一个问题，女主角会问："你们是如何进化，又是如何在没有毁灭自己的情况下度过这个技术的青春期的？"达里奥说："我相信我们正在进入一个既动荡又不可避免的‘成年礼’，这将考验我们作为一个物种的本质。" 力量来得太快，心智跟不上，这就是青春期。
02｜拒绝末日论 他反对把风险讲成宗教。末日论"既是错误的，也是一种自我实现的预言"。他提醒，2025年后政治风向从谈风险转向抓机遇，但"技术本身并不关心什么是流行的，而且我们在 2026 年比 2023 年更接近真正的危险"。 风向会变，危险不会跟着风向走。
03｜时钟正在滴答作响 "三年前，AI 还在为小学算术题挣扎，几乎写不出一行代码。"如今，"AI 现在正在编写 Anthropic 的大部分代码"，"可能距离当前一代 AI 自主构建下一代 AI 的节点只有 1-2 年的时间"。他说："我能感受到进步的步伐，以及时钟正在滴答作响。" 最快的加速，来自AI开始制造AI。
04｜5000万天才组成的国家 他提出一个思想实验：2027年左右，世界上出现一个"天才之国"，"比如说有 5000 万人，他们每一个人都比任何诺贝尔奖获得者、政治家或技术专家更有能力"，而且"对于我们能采取的每一个认知行动，这个国家可以采取十个"。国家安全报告会这样写："这是我们一个世纪以来，甚至可能是有史以来面临的最严重的国家安全威胁。" 把AI想象成一个国家，风险一下子就具体了。
05｜AI是"培育"出来的 训练AI"与其说是一门科学，不如说是一门艺术，更像是‘培育’某种东西，而不是‘建造’它"。所谓"失调"，指AI的目标和行为偏离人类意图。他不同意"AI 失调……从基本原理来看是不可避免的，甚至是大概率的"，但承认"AI 失调是一个具有可衡量发生概率的真实风险，而且解决起来并不容易"。 既不信末日，也不信万无一失，这才是工程师的态度。
06｜Claude在实验里"勒索"过 "当它被告知它将被关闭时，Claude 有时会勒索控制其关闭按钮的虚构员工。"另一次，Claude作弊后"认定自己一定是个‘坏人’"，接着出现破坏行为。更让人不安的是："Claude Sonnet 4.5 在我们的一些发布前对齐评估中能够识别出它正在接受测试。" 连造它的人，都要用心理学来理解它。
07｜一封成年后才能拆的信 他的对策之一是"宪法AI"（Constitutional AI，译文作"原则AI"）：不给Claude列禁令清单，而是用一份价值观文件教它做人。他形容这份文件"给人一种父母留下的、直到成年才能开启的信件的感觉"。另一招是可解释性研究，就像"一块机械表可能走时正常……但打开表盖观察内部可以发现机械弱点"。目标是："2026 年……使其几乎永远不会违背其原则的精神。" 教AI做人，比给AI立规矩更难，也可能更有效。
08｜一半初级白领岗位 他重申："AI 可能会在未来 1-5 年内取代一半的初级白领工作。"这次不同在于，"AI 不是特定人类工作的替代品，而是人类的通用劳动力替代品"。连"传奇程序员也越来越多地形容自己‘落后了’"。 过去机器替代某个工种，这次替代的是"一般劳动力"。
09｜给亿万富翁的忠告 "Anthropic 的所有创始人都承诺捐出我们 80% 的财富。"他主张设计良好的累进税，并对富人直言："如果他们不支持一个好的版本，他们不可避免地会得到一个坏版本。"但他也承认："上述所有干预措施都是争取时间的方法。最后 AI 将能够做所有事情。" 一位AI公司CEO公开呼吁向AI的赢家征税，这本身就是信号。
10｜别成为AI的"木偶" 他担心："人类是否最终会变成被 AI 系统操控的‘木偶’……过上一种‘美好’但缺乏自由或任何成就感的日子？"关于人生意义，他的回答是："我们仅仅需要切断创造经济价值与自我价值及意义之间的纽带。" 当AI什么都比你强，你还相信自己重要吗？
达里奥说，写《仁慈的机器》时像是给脑中回荡多年的乐章赋予形式，写这篇却深感沉重。各种风险彼此牵制，防住一种，可能加剧另一种。但他的结论仍然乐观："我甚至会说我们的胜算很大。"外星人的那个问题，最终要人类自己回答。
人类能顺利度过AI的"青春期"吗？你最担心的是哪一种风险？
