群发资讯网

PrismML 正式开源Bonsai‑2三元压缩模型 2B、4B、9B 版本,该系列基于通义 Qwen3.5 基座打造,专为消费级终端设备优化,强化推理、视觉理解以及工具调用能力。助力把实用 AI 智能体能力落地到 PC、手机、可穿戴设备本地应用。 三款端侧模型的语言部分存储体积控制极低: ‑ Bonsai‑2 2B:仅 0.43GB ​

PrismML 正式开源Bonsai‑2三元压缩模型 2B、4B、9B 版本,该系列基于通义 Qwen3.5 基座打造,专为消费级终端设备优化,强化推理、视觉理解以及工具调用能力。助力把实用 AI 智能体能力落地到 PC、手机、可穿戴设备本地应用。

三款端侧模型的语言部分存储体积控制极低:‑ Bonsai‑2 2B:仅 0.43GB‑ Bonsai‑2 4B:仅 0.95GB‑ Bonsai‑2 9B:仅 2.0GB

性能数据:iPhone 18 Pro Max 本地运行 Bonsai 2 9B 最高可达 34 tok/sec;轻量化 2B 版本最高速度 120 tok/sec。模型也支持 Mac 端混合 AI 工作流,可充当“端侧 + 云端混合推理架构里的本地智能层”。该模式能让开发者自主管控数据处理位置,控制数据外发,适配隐私优先类应用。

开发者可根据硬件条件,在模型能力、内存占用、响应速度之间灵活取舍。

Huggingface.co/collections/prism-ml/bonsai-2-small