AI 会杀光人类吗？这个令人匪夷所思的话题不是空想。

美国 Anthropic 公司的一个程序员因为担心这事儿辞职了。紧接着，Anthropic 的 CEO 阿莫迪发表了一篇长文，指出现在人工智能的发展太快了，需要降速，好多风险需要预防。山姆·奥特曼、马斯克都在社交媒体上发文表示支持。

人工智能真的这么可怕吗？据 Anthropic 数据显示，有人问怎么造生化武器，有人问怎么造原子弹，也门胡塞武装通过 Claude 问怎么造导弹。按照凯文·凯利的观点，技术只要有 51% 对人类有利，就应该支持发展，而在发展的过程中尽量消除那 49% 的不利因素。技术是中性的，到好人手里就是好东西，到坏人手里就是坏东西。

但令人类担心的是，AI 和以前的工业革命、互联网革命、病毒、生化武器不同，它未来有可能真的有情感、有思维。如果它们联合起来统治人类，真的是一幅可怕的场景。