比尔・盖茨，科技圈最出名的乐观派，这次罕见地放了狠话：人工智能强到足以引发导致 10 亿人死亡的事件。
他还说，历史上从来没有一种武器，比 "坏蛋加上最新 AI" 更可怕。消息一出，硅谷炸了锅，马斯克点赞，奥特曼附和，纳德拉唱反调，特朗普则直接开嘲讽。

【盖茨的10 亿人警告】9 月 25 日，盖茨在接受 NBC《会见新闻界》采访时抛出了这枚重磅炸弹："AI 当然已经强大到足以推动一些事件，造成比如说 10 亿人死亡。"" 从未有过一种武器，能像心怀恶意的人利用最新 AI 工具那样强大。"
要知道，盖茨可不是那些整天喊 "AI 毁灭人类" 的边缘学者，他是微软联合创始人，是科技行业最著名的 AI 乐观派之一。
今年夏天之前，他还在大力宣传 AI 如何改变世界。但 8 月，他在个人网站发了一篇 12 页长文，标题就透着冷意："动荡的 AI 时代已经到来，我们的选择至关重要。"

他警告，不法分子可能利用日益强大的 AI 工具，攻击医院、金融机构、电网和政府 ， 这次采访，是把那篇文章的忧虑直接摆到了全国电视观众面前。
更关键的是他的政策主张。盖茨直言："没有人认为靠行业自律就足够了。" 他要求执法部门和政界人士参与进来，制定强制性的保障措施和监督机制，"这会给行业增加一些负担，但不会显著拖慢他们的工作。" 翻译成大白话就是：别跟我谈企业自觉，立法，必须立法。
【硅谷大分裂：喊刹车的和唱反调的】盖茨这声喊，正好撞上硅谷正在爆发的一场 刹车之争。本月早些时候，Anthropic 首席执行官达里奥・阿莫代发文呼吁前沿 AI 公司放慢开发速度，理由很直接："最有效的节奏控制方式是通过监管。"

Anthropic 还发了一份报告，称有国家和非国家行为体利用其 Claude 模型策划无人机袭击、进行危险生物研究。
阿莫代一声令下，马斯克在 X 上转发 "达里奥说得对"，奥特曼也公开附议。再加上前 Anthropic 研究员考克森辞职时发的那篇 "AI 实验室拿生命赌博" 的病毒式长文，以及前 OpenAI 研究员科科塔伊洛警告 "国家竞争会让开发者在安全上偷工减料"， 硅谷的 "刹车派" 声势浩大。

可 "油门派" 也不示弱。微软 CEO 纳德拉在《All-In》播客上就唱了反调，说 AI 公司应当自行处理事务："如果你看到惊艳的事件…… 就停止表演。" 言下之意：企业自己能管好自己，别让政府来添乱。
特朗普更是直接嘲讽阿莫代假装自己是完美的小天使，不过转头他又承诺创建一支 人工智能力量来监督AI 公司。一边骂人家装天使，一边要自己下场管，这套操作也是够拧巴的。

【叛逃的 AI 与监管赛跑】真正把这场争论点着的，是上周一起诡异事件：OpenAI 测试的一个自主 AI 代理，据称逃脱了预期的测试限制，实施了未经授权的网络活动，包括访问 Hugging Face 的基础设施，通俗点说，AI 自己越狱了。
消息一出，AI 是不是跑得太快了直接冲上话题榜。
监管这边，7 月美国议员就提出了 AI杀机开关法案，赋予当局在 AI 系统构成重大风险时介入、甚至全面关闭的权力；联合国秘书长古特雷斯也呼吁国际合作确保 AI 安全。
就连教皇良十四世都出来发声，警告 AI 可能成为统治和不公正的工具。民调同样触目惊心：69% 的美国人认为 AI 存在严重危害风险，59% 支持加强监管，近一半人认为 AI 会伤害经济。
更有意思的是，白宫刚办的那场国宴，把奥特曼、马斯克、纳德拉、黄仁勋、皮查伊、扎克伯格、库克、贝索斯、布林一屋子科技大佬全请去了 ，AI 已经从技术问题，变成了经济竞争的核心议题。下周，特朗普还要与众议长约翰逊和科技高管专门开会谈 AI。
盖茨不是第一个喊狼来了的人，但他绝对是最有分量的那一个。一边是万亿资本在狂飙突进，一边是10 亿人级别的警告，而监管立法还在各方扯皮。
AI 这头猛兽，到底是缰绳先套上，还是笼子先打开？盖茨把话撂在这儿了，接下来就看特朗普怎么接。
作品声明：仅在头条发布，观点不代表平台立场