美军AI“幻觉”差点闯大祸！CNN爆料：美军被AI误导，险些冲上中国船只当人工智能越来越多地走进战场情报体系，一场由AI“幻觉”制造的惊险乌龙，被CNN曝光在公众面前。一份AI生成的虚假军情报告，一度推着美军走向对中方船只采取军事行动的边缘，险些酿成大国海上摩擦。据CNN援引四名美军内部知情人士消息，事件发生在今年春季美伊冲突期间。美军特种作战司令部一名情报分析师，调取中东海域一艘中国船只的货运清单，交给AI聊天机器人做研判。AI在整合公开资料与美军机密信号情报时发生严重失真，凭空编造结论，声称这艘中国货船正在向伊朗运送核武器相关零部件。拿到AI输出的结论后，分析师继续借助AI，把虚假内容整理成格式规范、看起来可信度很高的标准军方情报报告。报告在美军内部流转后迅速引起高度警觉，美军当即制定作战方案：计划出动兵力拦截这艘中国船只，安排全副武装人员登船核查，配套军机也已经升空待命，行动一触即发。就在即将实施行动的关键时刻，美军官员对情报开展复核，才揪出致命漏洞：所谓“运送核相关部件”完全是AI产生的幻觉，没有任何事实依据。知情人士直言，这份全盘虚假的情报，差一点引爆大国之间的直接冲突。一旦美军贸然强行登上中国船只，后果不堪设想。何为AI幻觉？简单来说就是人工智能在信息处理过程中，无中生有编造不存在的事实、结论。AI擅长快速整合海量信息，但不会自主判断信息真假，很容易混淆、拼接不同来源数据，输出看似逻辑通顺、实则完全虚假的判断。在民用场景，AI幻觉最多造成文字错误；可一旦进入国防、情报、军事决策领域，微小的信息失真，就可能演变为军事危机。近年来美国军方大力推进AI军事化，试图依靠人工智能压缩情报研判时间、提升战场感知效率，大量把AI工具交给情报人员用于资料分析、报告撰写。这起事件恰恰戳破了“AI万能”的幻想：AI可以提升情报处理速度，却无法替代人的审慎核查与事实校验。当情报人员过度依赖AI输出结果，放松对原始信息交叉核验，虚假情报就会顺着军事指挥链条传导，带来巨大风险。这起事件也给全球军事智能化敲响警钟。AI是工具，不是决策者。在涉及大国博弈、海上安全、军事行动等高风险场景，必须建立严格的人工复核机制，不能把关键判断权交给人工智能。战场决策容不得AI凭空编造，任何军事行动的启动，都必须建立在真实、可核验的情报基础之上。AI加速走进战争，但人类必须牢牢握住最终的“开火权”。这次惊险的“擦肩而过”警示世界：军事AI的安全管控，远比技术迭代更加重要。媒体精选计划 美军 AI