前Anthropic研究员Jacob Coxon接受BBC采访时表示，自己曾与许多AI领域从业者交流，其中一些人对AI未来的发展方向感到“真心害怕”。他认为，AI公司正快速推进能够自我改进的超级智能，但人类目前还没有可靠的方法确保这种系统始终受人类控制。

Coxon尤其担心，一旦AI能够自主进行科研、编程和改进自身能力，技术进步速度可能远远超过政府监管和安全研究的速度。他警告，这种失控风险并非只是科幻小说中的机器人叛乱，更可能表现为AI被用于网络攻击、生物武器研究，或自主系统产生人类无法预测和控制的行为。

这场争议在AI行业内部迅速扩大。Anthropic首席执行官Dario Amodei近日也公开呼吁放慢尖端AI的发展速度，加强独立安全监督、行业标准和国际协调。美国国会议员也开始推动进一步加强AI监管。

不过，文章中的“人类可能灭绝”等说法属于AI安全专家对未来风险的严重警告，并不是已经发生或被证明必然会发生的事实。真正的核心问题是：AI能力发展的速度，可能已经开始超过人类建立安全控制和监管机制的速度。网图