11 月 5 日，百度文心团队发布 ERNIE-5.5-Flash-Base，FP8 与 BF16 两套权重同步上线 Hugging Face。
这次放出来的是一个 280B 总参数、每个 token 仅激活 14B 的稀疏 MoE 基座。它从零预训练了 33.5T tokens，训练上下文达到 128K，微调与推理最高支持 1M。
更有意思的是百度选择的参照物。官方用同一套评测框架，把它与 DeepSeek-V4-Flash-Base、Hy3-preview-Base 和 MiMo-V2.5-Base 放到了一张表里。这个定位很直白：百度把目标放在下一轮微调、强化学习和 Agent 训练的基座入口。
280B 总参数，每次只动 14BERNIE 5.5 Flash 一共有 43 层 Transformer。第一层使用稠密 FFN，后面 42 层全部换成 Multi-Router Latent MoE。每个 MoE 层放置 512 个路由专家，每次选择 10 个，再加 1 个共享专家。
总参数决定模型可以容纳多大的知识和能力，激活参数则直接影响单次推理的计算量。280B 的容量只激活 14B，这套设计追求的是把“大模型容量”和“更小的单步计算”同时保留下来。
图片来源：百度文心团队（2026-11-05）
◆ 混合稀疏注意力，把 1M 上下文的成本压下来
43 层里有 37 层采用 HCA，也就是重度压缩注意力。它把每 128 个 token 压成一条缓存条目，只保留最近一小段 token 的完整窗口。其余 6 层使用 MLA + DSA，负责访问完整上下文，并用稀疏选择控制长序列计算量。
换成直观说法，大多数层先看压缩后的全局地图，少数层再读取完整历史。训练时上下文逐步扩展到 128K，发布配置把微调和推理上限开到 1,048,576 tokens。
◆ 多个路由器共同挑专家
传统 MoE 通常由一个路由器为专家打分。百度的 Multi-Router 让多个独立初始化的路由器一起参与选择，减少某一个路由器误判后持续放大偏差的情况。专家激活数量、FLOPs 和通信量保持不变，路由选择则更稳定。
此外，专家在 2048 维隐空间里计算，再映射回 4096 维。官方给出的估算是，相比全宽专家，dispatch/combine 通信量与专家 FLOPs 约减半。
33.5T tokens，代码数据不只收静态仓库ERNIE-5.5-Flash-Base 从零预训练了 33.5T tokens。网页与多语言语料之外，代码数据加入了 commit、issue、pull request、代码评审、多 commit 轨迹、自动生成测试，以及经过 CI 验证的修复记录。
这些数据更接近真实软件项目的变化过程。模型看到的不只是某个文件最终长什么样，还包括需求如何进入仓库、改动如何被审查、测试如何发现问题，以及修复怎样通过 CI。百度显然在为仓库级代码理解和 Agent 软件工程预留能力。
长文数据则同时包含天然长文档、加入相似干扰内容的长序列，以及检索、引用问答和多跳问答合成数据。1M 上下文并非只把配置数字调大，预训练数据和注意力结构都围绕长序列做了准备。
与 DeepSeek V4 Flash 同台，代码项目拉开明显差距百度使用同一套框架、prompt 和 few-shot 样例，评测四个公开 Base checkpoint。自由问答题也使用同一个裁判模型。这个口径比直接拼接不同厂商模型卡的数据更有参考价值。
Benchmark
ERNIE 5.5 Flash Base
DeepSeek V4 Flash Base
MMLU-Pro
78.4
69.2
GPQA
60.2
55.9
HumanEval+
82.3
69.5
LiveCodeBench
40.1
31.9
LongBench-v2
48.7
44.5
InfiniteBench
46.5
48.0
图片来源：百度文心团队（2026-11-05）
ERNIE 5.5 Flash Base 在 MMLU-Pro、GPQA、HumanEval+、MBPP+、LiveCodeBench 和 LongBench-v2 等项目上领先 DeepSeek-V4-Flash-Base。它并非每项都占优，例如 HELMET-Rerank 与 InfiniteBench 仍由 DeepSeek 领先。整体看，百度在代码、综合考试和多数长上下文项目上交出了一组很有竞争力的 Base 成绩。
权重开放了，但它还不是聊天模型Hugging Face 上已经提供 FP8 与 BF16 safetensors 权重。SGLang 和 vLLM 可以通过 completions API 部署，Transformers 也能直接加载 BF16 版本。由于这是 280B 级模型，实际部署仍需要大显存、多卡或专门的异构推理方案。
使用前要知道：当前发布的是未经中训练与后训练的预训练终点 checkpoint。它没有完成指令跟随、偏好对齐或安全训练，适合作为领域微调、强化学习和 Agent 训练的起点，不适合直接替代文心一言聊天产品。
◆ 开放权重，不等于标准开源
模型采用百度自定义的 ERNIE 5.5 Flash Base Model License Agreement v1.0，并非 MIT、Apache-2.0 这类标准开源许可证。
非商业用途可以免费使用。相关产品或服务年收入不超过 5000 万美元时，商业使用免模型许可费，但需要发送一次使用通知，并按协议展示“Powered by ERNIE”。超过门槛则要提前取得书面授权。许可证授权地域还排除了欧盟、英国和韩国，准备商用的团队需要先核对完整协议。
百度这次真正交出来的，是一个训练起点ERNIE-5.5-Flash-Base 的价值不在于今天能不能打开网页聊天，而在于开发者终于可以拿到百度这条技术路线的预训练终点：280B-A14B、33.5T tokens、1M 上下文，以及围绕代码仓库和长序列设计的数据与架构。
百度已经确认，经过后训练的 ERNIE 5.5 Flash 将随后推出。眼下这份 Base 权重先把研究和二次训练的入口交给社区，也把它与 DeepSeek V4 Flash 的竞争摆到了同一张公开评测表上。