群发资讯网

Kimi开源2.8万亿参数,权重压到1.56TB

11月4日,月之暗面把Kimi K3.1 Pro的完整权重放上了Hugging Face。
参数是2.8万亿。单次推理只激活1040亿,模型里内建896个路由专家,每个token只挑16个用,另外还有2个共享专家。
支持100万token上下文。
这几个数字里,最容易被忽略的是最后一个的代价:权重按MXFP4精度放出,文件约1.56TB,换算成BF16大约5.6TB,企业想微调得先反量化。
也就是说,“可下载”和“可运行”之间,还隔着一整个机柜。
月之暗面自己也知道这一点,同一天发了Kimi Hosted Agents,把支撑智能体运行的框架搬上云,企业不用自己搭环境、管上下文、控权限。
真正值得说的是权重之外的两件事。
第一件是幻觉率。它自家测试里,幻觉率从上代K3的23.4%降到8.3%。同一张表上,Claude Opus 5.5排在它后面。
一家公司把自己最容易被挑刺的指标主动放上表格,这在这行不常见。
第二件是国产算力的接。权重放出来当天,昇腾完成0Day推理适配,vLLM Ascend和SGLang可以直接在Atlas系列硬件上部署。
几天后更进一步:在128卡的Atlas超节点上跑通了LoRA微调训练,靠分片并行加专家并行的混合策略,把几TB的权重摊到整柜卡上,训练性能平均提升15%,加载开源权重微调初始Loss约1.85,五百余步后收敛到0.27附近。
万亿级模型在国产算力上微调这条路,之前一直卡在“能不能跑通”。现在有了一个具体的收敛曲线。
Agent Arena的排位上,它在开放权重模型里第一,全部参评模型第13。Terminal-Bench 4.0拿到65.7%,Opus 5.5是66.4%,差距不到一个百分点。
不过有两点得说清楚。这些分数是月之暗面自报的,第三方独立评测的口径与自报值有出入。
另外发布的是Kimi专用许可,不是通用开源:允许使用、修改、微调和再分发,但企业把它作为服务对外提供、年收入超过2000万美元的,要单独签协议;月活过亿或月收入过2000万美元的产品,要在界面上署名。
我早两年做内容工具的时候,最盼的就是这种消息。模型一开源,我们这种小团队就不用排队等API额度,可以在自己机器上改。但每次下载完都发现,权重是拿到了,跑起来要的卡没有。
这一次光是权重文件就有1.56TB,反量化之后要5.6TB,说明那道门槛又抬高了一截。
我的判断是,这次开源的真正意义不在参数大小,在它把“万亿级模型能不能在国产卡上微调”这个问题,从讨论变成了一个能验的结果。参数是给媒体看的,收敛曲线是给工程团队看的。前者热闹三天,后者能决定明年有多少家公司敢自己做垂直模型。
回头看上一轮开源潮,当时大家比的是谁的参数更大,现在比的是谁的权重别人跑得动。
你那边要是也在评估自建模型,5.6TB的权重,你的存储和卡摊得开吗?