群发资讯网

专家:LLM大模型更容易受到攻击! 分析师表示,该报告似乎是准确的,但

专家:LLM大模型更容易受到攻击!
分析师表示,该报告似乎是准确的,但强调关键在于,不应相信任何人工智能模型会留在其护栏内。
尽管TypeSafe上个月推出的Jev模型声称比传统LLM具有显著优势,但一份安全报告认为,与传统LLM相比,其简化的方法使其更容易受到某些类型的攻击。在某些情况下,[Jev]更容易受到攻击,对抗性文本攻击和快速注入都能破坏模型的输出,导致不正确和潜在的破坏性行为。”。TypeSafe没有回应多个置评请求。
关于Jev在技术上是否是一个大型语言模型(LLM),似乎存在争议,TypeSafe表示不是,但HiddenLayer表示它似乎是一个。TypeSafe甚至为这一类别创造了一个名字:System One,TypeSafe将其描述为“一类新的前沿模型,旨在做出软件可以直接使用的快速、结构化的决策。”
Jev是第一个(也是迄今为止唯一一个)被归类为System One的命名产品。Jev是一种流线型模型,旨在实现机器对机器的功能。它的方法使其能够更快地执行任务,并使用更少的令牌。