群发资讯网

比大模型还猛?这个 4B 国产模型,把 Agent 门槛打下来了

最近圈子里有个挺炸裂的消息,不知道你们关注到没有?
以前咱们搞 AI 的都知道,想让模型像个真正的 Agent 一样帮你干活、调工具,那门槛高得吓人。没个上百亿参数的大模型,基本就是在那儿“人工智障”。
但就在前几天,科大讯飞旗下的“词元星火”直接把桌子给掀了。
他们开源了两个端侧模型,Spark-X2.5-1.7B 和 Spark-X2.5-4B。
说实话,刚看到这 4B 的参数量的时候,我心里是打鼓的。这年头 4B 能干嘛?当个复读机都费劲吧?
结果我上手测了一圈,真香。
这玩意儿不仅 Agent 能力在同尺寸里断层领先,甚至还原生支持 100 万 Token 的上下文。啥概念?你把你整个项目的代码库丢进去,它都能吃得下,跑长任务还不容易断片。
而且,部署简单到令人发指。
你不需要懂什么复杂的 Docker 或者环境配置。只要你的电脑上有 Claude Code 或者 Codex,直接跟 AI 说一句:“帮我在本地部署这个开源模型,用 llama.cpp 跑起来。”
然后你就可以去倒杯咖啡了。
AI 会自己检查你的配置,自己下载权重,自己编译启动。等你回来,一个本地服务就跑通了。
把它挂到了的翻译工具上,白嫖了一个离线翻译引擎。支持 200 多种语言,速度飞快,质量还挺高,关键是——完全免费,还不走流量。
更绝的是,把 Codex 的“大脑”换成了这个本地 4B 模型。
让它去读一个开源项目,它自己调用工具拉代码、读 README、总结功能,一气呵成。又让它用 Archify 技能画了张架构图,虽然细节上有点小瑕疵,比如字体小了点,但作为一个 4B 的端侧模型,能跑通这么复杂的 Agent 流程,我是真没想到。
这说明了啥?
说明小模型不再是玩具了。
以前医疗、金融、法务这些行业,想用 AI 但怕数据泄露,只能干瞪眼。现在好了,4B 模型跑在本地笔记本上就能干 Agent 的活,数据不出门,安全又高效。
我觉得,未来一两年,这种端侧模型在敏感行业的落地速度,绝对会比云端 Agent 还要快。
现在模型权重已经在 Hugging Face 和魔搭社区开源了,GitHub 上也有完整的文档。
不想折腾的,讯飞星辰 MaaS 平台也有 API,目前还限时免费。