群发资讯网

Kimi K3.1 Pro 的权重 11 月 4 日挂上了 Hugging Fa

Kimi K3.1 Pro 的权重 11 月 4 日挂上了 Hugging Face。模型卡给的规格是:总参数 2.8 万亿,MoE 结构,每个 token 只激活 104B,93 层,896 个专家里选 16 个(另有 2 个共享专家),上下文 1,048,576 token,权重用 MXFP4、激活用 MXFP8,是量化感知训练出来的。

第一件该看的事是它到底能不能自己跑。2.8 万亿参数按 4-bit 每参数半个字节估算,光权重就约 1.4TB,还没算 KV cache 和激活——这不是一台工作站能装下的量级。HN 上排在前面的评论就是这个意思:跑它「大概要 8 张 B300 那样的节点」。从规格看,这次的部署对象是企业和云厂商,不是个人开发者的本地模型。

第二件是分数。同一张模型卡上,Terminal-Bench 4.0 是 65.7,Claude Opus 5.5 是 66.4、GPT-6 Astra 是 58.2、Claude Fable 5.1 是 57.9;带工具的 HLE-Full 是 70.0,高于 Opus 5.5 的 67.7。短板也在同一张表里:Program Bench 只有 31.5,Opus 5.5 是 65.0。

第三件是它和前代的关系。模型卡写的是从 Kimi K3 后训练而来,把原来的全注意力 Gated MLA 换成 Gated DSA 稀疏注意力,为的是让 100 万 token 的长上下文更省算力。视觉编码器 MoonViT-V2 只有 4.01 亿参数,所以它是原生多模态,但图片理解不是重头。

权重放出来不等于用得便宜。1.4TB 只是按 4-bit 的估算,官方没给实际显存占用和推荐硬件;所有分数都是厂商自测,没有第三方复跑;这次 HN 讨论 532 分、12 条一级评论,热度明显低于 K3.1 Pro 首发那次。

这是一次面向企业和云厂商的开源,个人开发者拿到权重也跑不起来。真要在自己机房跑 2.8T,先算显存和电费再决定;个人用户更现实的选择仍然是 API 或者等小尺寸蒸馏版。