10亿条人命，这是比尔·盖茨给AI风险标注的“价码”。
这位微软创始人最近在接受美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访时（该节目将于本周末播出），说出了让整个科技圈为之一震的话。他直言，如今的AI已经强大到足以引发夺走10亿人生命的灾难，坏人一旦拿到最新的人工智能工具，其破坏力将超过历史上任何一种武器。
俗话说得好，水能载舟，亦能覆舟。AI这把双刃剑，磨得越锋利，伤人的时候就越可怕。
其实，盖茨并不是唯一一个睡不着觉的人。就在本月早些时候，Anthropic公司的一位名叫Jacob Coxon的普通员工干脆辞了职，转头就公开炮轰老东家Anthropic和OpenAI，说他们在“加速冲向超智能AI”，等于是在“拿我们的生命作赌注”。这话虽然刺耳，可细想一下，是不是话糙理不糙？

更有甚者，另一位Anthropic的员工给出了一个具体的数字：未来十年内，AI灭绝全人类的概率超过10%。听起来好像不高？可要是换个说法——每十次抛硬币就有一次是灾难，你还敢淡定吗？
这番言论像一颗石子投入平静的湖面，激起了公众对AI安全的广泛关注，越来越多人开始喊话：科技巨头们，光赚钱可不行，得拿出真本事来保障安全。
压力之下，Anthropic的首席执行官Dario Amodei站出来呼吁放缓AI开发步伐，OpenAI的掌门人Sam Altman与马斯克等人也纷纷表态支持。可盖茨看得更透——大厂们自己管自己，终究是既当运动员又当裁判，靠谱吗？
他给出了否定的答案。在他看来，行业自律不过是隔靴搔痒，必须有执法部门和政治家的加入，把安全保障与监管措施落地成强制性要求，才能真正管住这匹野马。
早在8月份发表的一篇文章里，盖茨就敲过警钟：居心不良者完全可以借助越来越强的AI工具，发起网络攻击、搞诈骗、散播假消息，甚至对医院、金融机构、电网以及政府系统下手，造成大规模破坏。
科技向善还是向恶，钥匙从来不在技术手里，而在人心手里。未雨绸缪，永远好过亡羊补牢，尤其当赌注可能是10亿条性命的时候。