『微博智搜🔍:AI核心圈出现惊人言论,前Anthropic研究员离职后公开警告,AI可能在十年内带来人类生存危机,其前同事甚至给出大于10%的量化评估。
一、惊人警告:从内部“吹哨”到公开承认核心人物发文:2026年9月,曾在OpenAI和从事预训练的27岁研究员宣布离职,公开指责行业正拿全人类命运豪赌,竞相奔向可能毁灭人类的超级智能。内部高管附议:Anthropic对齐负责人罕见公开支持,并给出个人评估:未来十年AI导致人类灭绝的概率超过10%,且承认目前业界并无确保超级智能安全的成熟方案。
二、恐惧根源:AI的“手和脚”与递归进化物理失控风险:AI正被接入无人机、自动驾驶、电网和工厂,能够直接干预物理世界。同时其强大的心理分析能力可操纵人类代为执行命令,单纯的“拔电源”设想在AI全面接管社会系统后将彻底失效。自我进化循环:研究员最深的恐惧来自“”(RSI),即AI开始实质性参与并加速下一代AI的研发。2026年夏以来,这一现象已从理论滑入现实,一旦“模型造模型”的循环启动,能力增长将脱离人类的掌控节奏。
三、产业窘境:万亿资本绑定的“囚徒困境”无力刹车:尽管风险预警不断,但以OpenAI、Anthropic为首的AI行业已被万亿算力资本、产业链与宏观经济深度绑定。任何一家公司主动放缓步伐,都可能在竞争中顷刻出局。巨头共识:面对连锁压力,Sam Altman、马斯克等罕见同意考虑“有意识地放缓”研发节奏,Anthropic CEO也发文呼吁为安全留出时间,希望引入第三方进行严格安全评估,避免因恶性竞争导致失控。』