群发资讯网

截至目前,国产大模型在国产算力上的训练深度可以清晰地划分为三个梯队。含金量从高到低依次为:从预训练到推理全程、全参数后训练到推理,以及用在推理适配: T0 从预训练到推理全程使用国产芯片: 1. 美团LongCat-2.5:参数量达1.6万亿,峰值调度了超过5万张国产加速芯片(华为昇腾),从零开始预训 ​

截至目前,国产大模型在国产算力上的训练深度可以清晰地划分为三个梯队。含金量从高到低依次为:从预训练到推理全程、全参数后训练到推理,以及用在推理适配:

T0 从预训练到推理全程使用国产芯片:1. 美团LongCat-2.5:参数量达1.6万亿,峰值调度了超过5万张国产加速芯片(华为昇腾),从零开始预训练,是业界首个完全脱离英伟达生态、用全国产算力完整跑通万亿参数大模型的公开范例。

2. 科大讯飞 星火X2.6:采用2930亿总参数、激活300亿参数的MoE架构,完整训练全程放在国产算力上(华为昇腾),首次在全国产算力上实现了百万Token超长上下文的代码与智能体训练突破。

3. 华为盘古2.0Pro(openPangu-2.0-Pro):总参数量达5050亿,激活180亿参数,稀疏MOE架构,全程使用华为自研的昇腾910B进行训练,未使用任何英伟达GPU,并支持512K上下文。

4. 智谱 GLM-Image:总参数量160亿,历史首个完全在国产芯片(华为昇腾+MindSpore框架)上完成全流程训练的顶尖多模态模型。

5. 智谱 GLM 5:总参数7440亿,基于华为昇腾910B芯片进行训练

6. 中国电信 星辰语义大模型(TeleChat系列):国内首个全国产化训练的千亿参数细粒度MoE语义大模型,基于华为昇腾全国产化万卡集群和国产深度学习框架MindSpore训练,连续有效训练时长占比突破98%

7. 阿里千问3.8 Max:总参数2.4万亿,激活参数950亿,基于阿里平头哥真武系列AI芯片

8. 字节跳动 豆包大模型2.0 Pro:训练总参数1.2万亿,激活参数700亿,在预训练端依然主要依赖英伟达的高端算力(H100/H200等)与华为昇腾(910C等)搭建的超大集群,同时通过海光、寒武纪等国产芯片实现异构混合训练

DeepSeek官宣将于明年初发布的5.0 将基于华为昇腾950DT芯片进行预训练

T1 全参数后训练到推理:1. 百度文心5.5:总参数量达到2800亿,支持最长100万Token的上下文,基于华为昇腾和百度昆仑芯P800混合国产算力

2. DeeSeek 4.1:总参数量达1.6万亿,基于昇腾910C加速卡完成后训练及推理

T2:国产芯片仅用于推理1. 智谱 GLM-5.2:该模型已完成与华为昇腾、摩尔线程、寒武纪、昆仑芯、沐曦、燧原、海光等七大主流国产芯片平台的深度推理适配与算子级优化,能够在国产算力集群上实现高吞吐、低延迟的稳定运行。

2. 月之暗面Kimi K3、K3.、K4:总参数2.8万亿

3. MiniMax M3:训练总参数4560亿,调用参数230亿

4. 智谱GLM 5.3-Flash 的全部线上调用请求共投入了约10万颗国产芯片,算力供应商包括华为昇腾、海光、摩尔线程等。

5. 腾讯混元4(HY4)大模型:总参数7700亿,激活参数490亿

作为对比,美国OpenAI和Anthropic等公司的顶尖大模型训练总参数已达5-6万亿级别