群发资讯网

#Anthropic创始人呼吁放慢AI前沿研发,马斯克和奥尔特曼都同意# 9月12日,Anthropic创始人达里奥·阿莫代伊发文呼吁AI行业放慢研发,并提出三步计划:让第三方评估者长期进驻、以员工权限核查安全措施(Anthropic 先单方面执行);推动美国行业内部协调;建立全球机制。他警告,若放任AI自我迭代,失控 ​

Anthropic创始人呼吁放慢AI前沿研发,马斯克和奥尔特曼都同意 9月12日,Anthropic创始人达里奥·阿莫代伊发文呼吁AI行业放慢研发,并提出三步计划:让第三方评估者长期进驻、以员工权限核查安全措施(Anthropic 先单方面执行);推动美国行业内部协调;建立全球机制。他警告,若放任AI自我迭代,失控的智能体集群可能六个月内接管互联网。这轮风波起于Anthropic前研究员雅各布·考克森近日辞职,他称AI或于2030年前导致人类灭绝,指其“拿我们的生命赌博”。OpenAI CEO萨姆·奥尔特曼随即回应:“我同意达里奥,我们需要放慢前沿。”他表示OpenAI也会引入独立评估者,并透露多家公司或将很快达成联合协议。SpaceX创始人马斯克也称“达里奥是对的”。