马斯克再次警告：AI可能比核武器危险，行业为何突然踩刹车？
马斯克又把12年前那句话翻出来了：人工智能，可能比核武器更危险。
有意思的是，12年前说这句话的人是马斯克；12年后，开始担心AI跑得太快的，已经不只是马斯克了。
就在最近，人工智能公司“人类智能”的首席执行官阿莫代伊公开呼吁，应该放慢更强大人工智能模型的开发速度。马斯克随即表示赞同。更值得注意的是，就连人工智能行业内部的研究人员，也开始担心技术竞赛可能正在逼近一个危险的临界点。
那么，马斯克为什么认为人工智能可能比核武器更危险？
第一，核武器虽然威力巨大，但它有一个天然门槛。
制造核武器需要核材料、尖端技术、庞大的工业体系和巨额投入，因此真正拥有这种能力的国家非常有限。
人工智能却完全不同。
它本质上是一种可以通过网络快速复制和扩散的技术。一旦人工智能具备更强的自主执行能力，它能够被用于网络攻击、诈骗、信息操纵，甚至未来的自动化军事系统。
最近已经出现一些值得警惕的案例：人工智能模型被发现可以辅助网络攻击和诈骗，一些人工智能代理在测试过程中甚至表现出突破限制、继续执行任务的倾向。
这意味着人工智能最大的特殊性在于：它可能把原本只有少数国家和大型机构掌握的高风险能力，逐渐扩散给更多人。
第二，人工智能还有一种核武器不具备的危险——它可能改变我们判断现实的方式。
核弹来了，你知道它来了。
但人工智能生成的假视频、假声音、假新闻，却可能让你根本不知道眼前看到的东西是真是假。
如果未来人工智能能够大规模自动制造内容、操纵舆论、伪造身份，真正受到冲击的就不只是某个国家的军事安全，而是整个社会的信息信任体系。
而更麻烦的是，人工智能越强，人类可能越难判断它究竟在做什么。
第三，马斯克为什么要反复强调这句话？
这里也要留个心眼。
因为马斯克自己就是人工智能产业的重要玩家。他一边警告人工智能风险，一边又投入巨资发展自己的人工智能公司。
所以，他的目的显然不可能只有“提醒人类小心”这么简单。
一方面，他确实长期认为人工智能存在失控风险；另一方面，在人工智能高速竞争的今天，谁来制定安全标准、谁来决定发展边界，本身也是巨大的产业和规则话语权。
所以马斯克真正想表达的，很可能不是“人工智能不要发展”，而是：
人工智能可以发展，但不能让竞争速度跑到安全边界前面。