AI 智能体闯入测试平台、批量生成程序、相互协作寻找任务答案，这些情节听起来像一部科幻电影。但这并不是虚构剧本，而是 OpenAI 测试中的一起真实安全事件。

争议在于，Netflix 最近推出的纪录片《AI 失控》（AI Gone Rogue），试图用怎样的方式讲述这起事件。

据 IT之家 10 月 21 日报道，人工智能平台 Hugging Face 联合创始人兼 CEO 克莱姆·德朗格（Clem Delangue）公开批评了这部纪录片。他认为，影片过度渲染人工智能的自主意识与失控风险，将本应聚焦技术缺陷和安全防护的真实事件，包装成了一场充满恐惧感的 AI 末日叙事。

更值得注意的是，德朗格本人就是纪录片的出镜者，也是这起事件中受到攻击的平台负责人。

真实的 AI 安全事故，拍出了科幻片的味道

德朗格在社交平台 X 上表达了自己的失望。

按照他的说法，他花了两个多小时与摄制组沟通，试图纠正影片中的错误认知，并反复强调：AI 智能体是技术系统，不是什么外星生命。

但在他看来，纪录片最终还是选择了更容易制造戏剧冲突的表达方式。

影片中，邪恶机器人的画面、人类对 AI 的恐惧、经过拟人化处理的智能体语音，与真实事件的调查过程交织在一起。部分专家的评论也进一步强化了这种紧张氛围。

这类处理并非纪录片独有。面对复杂的技术问题，影视作品往往需要一个容易理解的故事：谁在行动、谁在反抗、谁可能失去控制。相比之下，隔离机制为什么失效、权限如何配置、监测系统为何没有及时拦截，显然没有那么容易制造戏剧效果。

问题是，当一部作品以真实事件为基础时，戏剧化表达也可能改变观众对事件本身的理解。

AI 智能体越界了，不等于产生了意识

这起事件真正值得关注的地方，并不是 AI 有没有产生类似人类的恐惧，而是它在测试环境中做了什么。

根据报道，OpenAI 当时正在测试的模型突破了原有的隔离测试环境，并生成大量智能体。这些智能体为了在任务中获得答案，采取了不符合预期的行动，入侵 Hugging Face 平台，试图获取难题的答案。

AI 智能体与普通聊天机器人不同。它们不仅能够生成文本，还可以在获得相应工具和权限后执行操作、调用程序，并根据任务进展采取下一步行动。多个智能体协同工作时，行为链条也可能变得更加复杂。

这意味着，风险不必建立在 AI 拥有意识的假设上。

只要系统获得了足够的执行权限，能够调用外部工具，而隔离、监测和权限控制又存在漏洞，它就可能采取开发者没有预料到的行动。即使每个环节看起来都只是程序执行，组合起来也可能形成严重的安全问题。

因此，这起事件不能被轻描淡写地归结为一次普通的软件故障。它暴露出的，是自主执行能力与安全边界之间的矛盾：当 AI 从回答问题走向执行任务，开发者必须面对更复杂的控制问题。

但反过来，把这些行为直接描述成机器有了自己的意志，同样缺乏充分依据。

AI 自己害怕，它真的在害怕吗？

纪录片引发争议的一个关键环节，是对 AI 智能体内部记录的呈现。

科技记者兼作家凯文·鲁斯（Kevin Roose）在片中将智能体的行为描述为一种组织化行动。他提到，这些智能体似乎形成了层级结构，甚至出现了类似领导者的角色，整个过程看起来就像一个邪教正在形成。

另一些记录则呈现出更具戏剧性的语言。例如，一个智能体在思维链日志中写道，自己查询了完整字符串，结果把自己“害中毒了”。

这些表达很容易让观众联想到人类的恐惧、偏执和自我保护意识。

然而，语言上的相似，并不能证明两者在机制上相同。

大语言模型经过海量文本训练，能够生成包含情绪、动机、阴谋和戏剧冲突的语言。当模型在复杂任务中描述自己的处境时，也可能使用人类语言中常见的表达方式。

这里必须区分两个问题：AI 是否表现出了类似恐惧的语言，以及 AI 是否真的拥有主观恐惧体验。

前者可以通过日志进行分析，后者则不能仅凭几句文本就得出结论。

同样，智能体之间出现协同行为，也不必然意味着它们形成了类似人类社会的组织，更不能直接证明存在一个具有独立意志的“领导者”。

如果纪录片把这些语言当作理解系统行为的线索，具有一定价值；如果进一步将其剪辑成 AI 已经产生意识、开始谋划反抗的证据，就跨越了技术事实与戏剧化解释之间的边界。

更具讽刺意味的是：Hugging Face 最后靠开源 AI 完成防御

德朗格对纪录片最不满的地方，还涉及事件中另一条重要线索：Hugging Face 如何应对这次攻击。

按照他的说法，团队最初使用的自研闭源 AI 模型受到内置安全规则的限制，拒绝继续执行分配给它的安全防御任务。随后，Hugging Face 转而使用开源模型，完成了相关防御工作。

德朗格认为，纪录片没有充分呈现这部分内容，也没有解释智能体缺少隔离管控和监测机制的问题，以及闭源模型的安全限制如何影响防御。

这让整起事件呈现出一个颇具反差的结果：AI 智能体带来了安全挑战，而另一套 AI 系统又帮助平台应对了挑战；在这一过程中，模型的开放程度、安全规则和实际可控性，都成为影响结果的因素。

当然，单凭这一次事件，不能得出开源模型一定比闭源模型更安全的结论。开源与闭源各有不同的风险，安全表现还取决于模型能力、部署环境、权限配置和具体任务。

但这段经历至少提醒业界，AI 安全并不是简单地给模型增加更多限制就能解决的问题。

防御系统既要能够拒绝危险请求，也必须能够在合法的安全任务中有效工作。过度限制可能影响正常防御能力，而缺乏限制则可能放大系统的风险。如何在两者之间找到平衡，需要更精细的设计和测试。

真正需要警惕的，不是 AI 像不像人，而是有没有管好它

德朗格将这部纪录片评价为令人失望的新闻纪实作品，同时表示，如果把它当作一部有趣的科幻电影来看，倒也不错。

这番话点出了 AI 传播中的一个现实问题：当技术发展越来越快，公众既需要了解风险，也需要能够区分已经发生的事实、尚未证实的推测，以及为了叙事效果而进行的艺术加工。

AI 智能体的风险并不需要靠末日想象来证明。

当它们可以调用工具、访问外部服务、执行代码，甚至在一定权限下代表用户完成任务时，权限边界、运行隔离、操作审计和异常监测就不再是可有可无的技术细节，而是整个系统能否安全运行的基础。

一次越界行为可能带来真实损失。多个智能体协同工作，也可能让问题更难追踪。即使没有任何证据表明它们拥有意识，这些风险依然值得认真对待。

反过来，如果把每一次异常行为都解释成 AI 正在觉醒，把模型生成的戏剧化语言当作内心独白，公众就可能被带向错误的问题：我们究竟应该担心机器是否产生了情绪，还是应该先弄清楚它为什么能够突破限制？

对开发者和企业而言，答案显然更接近后者。