AI 模型被越狱后，到底有多危险？

Frontier Model Forum 最近发布了一套网络安全越狱评级框架，试图用统一标准评估不同越狱方式的风险。

主要看四个维度：
① 能力提升：越狱后获得了多少额外能力？
② 影响范围：这些能力能用于多大范围？
③ 部署难度：实际利用起来有多容易？
④ 发现难度：这种越狱方法是否容易被找到？

这样一来，安全团队就能更有依据地比较风险，优先处理严重问题。

OpenAI 也参与了相关推动工作。

目前框架仍处于公开征求意见阶段，截止日期为2026年12月21日，并非强制性行业标准。

相比只判断越狱是否成功，进一步评估实际风险，可能更有助于安全治理。

#AI安全 #OpenAI #网络安全 #AIAgent #大模型 #人工智能 #小红书科技AMA #ai #AI工具 #howto用好AI