跑 agentic 编码最贵的部分不是答案,是「想」的过程:Kimi K3 这类推理模型,有时九成以上的输出 token 花在内部推理链上,而每一轮对话又要把之前的推理重新读一遍、重新计一次费。9 月 28 日凌晨(北京时间),Fireworks Research 发布 Ember-1:同样基于 Kimi K3,官方称质量不变、token 少四成。受影响的是所有按 token 付费、用大模型跑长会话编码与 agent 任务的团队——这一档省下来的不是速度,是账单。我的判断是:值得等一个独立复现再评估,但「推理链可以剪掉一大半而不掉质量」这个方向,比这个模型本身更值得记住。
把模型「想太多」的部分训练掉,保留仍有用处的自我反思(回到某个假设、根据反馈修正、把结果回溯到早先的决定),去掉重复与绕圈。为了这件事,团队跑了 50 多个训练实验、200 多次评测,全部在自家的 Serverless Training 上完成,训练数据用的是自有数据、不使用客户数据。
官方称不做训练、单纯把 K3 的 reasoning effort 调低会掉太多质量,所以只能让模型学会「高效地想」。这个取舍在表里能看出来:SWE-bench Verified 500 条上,K3 低档 80.4%、高档 86.0%、默认最高档 93.2%,Ember-1 是 92.2%——比最高档低 1.0 个百分点,但比低档高 11.8 个;Terminal Bench 2.1(89 条)上 Ember-1 是 82.0%,反超 K3 最高档的 80.9%;DeepSWE 1.1 上 75.2% 对 66.4%。也有没赢的:SWE-Interact(75 条)20.0% 对 21.3%,τ-2 Bench Airline(50 条)66% 对 64% 只是打平。
开篇写「token 少 40%」,客户 A/B 段写「每任务约少 35%」,结尾写「约为一半的 token 成本」,而它自己那张 A/B 表里的总 token 降幅是 39%(推理 token 降 71.3%)。四组数不矛盾——起点不同(整体宣称 / 单任务实测 / 成本口径 / 表格口径),但读者拿到的第一印象会是「对半砍」,实际可引用的保守值应当取 35%—40%。
这是发布方自测,评测里包含它自己新推出的 Specialized Intelligence Index,另一份行业基准的每任务成本是按 Kimi K3 的公开价(未缓存输入 3 美元 / 百万 token、缓存输入 0.30 美元、输出 15 美元)算的;A/B 只有两家客户的生产编码负载,内部落地则用「自家开发者没察觉」来描述。换句话说,这是一家卖推理与训练平台的公司,在讲一个「用它的平台能少花钱」的故事——利益关系明确。HN 讨论帖(49868830,462 分 / 214 条评论)里,被提得最多的是「基准只讲了半个故事,到底丢了哪种能力」,以及「没测 GLM 5.3 Flash 这个位置更像的对手」。
用官方 A/B 表里那组输出 token 数,乘 Kimi K3 的公开输出价(15 美元 / 百万 token),只算输出、不含输入与缓存:
- 每个任务:K3 输出 49.3K token ≈ 0.74 美元;Ember-1 输出 29.9K token ≈ 0.45 美元,单任务省约 0.29 美元(约四成)。
- 一个月 10 万个任务:约 7.4 万美元降到约 4.5 万美元,差约 2.9 万美元。
- 但同一张表里,两边的得分是 0.751 与 0.753、步数 23.8 与 21.4——节省来自「同一件事用更少的思考完成」,不是把任务砍小。
这是本文按公开价与官方 token 数做的换算,不是厂商数据,也没有计入输入 token 与缓存命中;实际账单取决于缓存命中率、多轮上下文长度和供应商差价。
第一,强推理、长链任务占比高的负载收益最大:多轮 agent、长会话编码,省的是每轮重发的推理;单次短问答几乎没有收益。
第二,在意「极端难题成功率」的场景要谨慎:SWE-bench Verified 上它比 K3 最高档低 1.0 个百分点,SWE-Interact 上低 1.3 个;换来的是便宜,不是更强。
第三,别把 Research Preview 当长期依赖:官方说这是研究预览版,serverless 上只给两周访问,之后是否转正常产品取决于社区需求——要上生产,先确认它愿意为你的量开放训练支持或常驻服务。
第四,注意底座归属:Ember-1 建在 Kimi K3 之上,底座换人、许可证变动的风险都在上游;这也是 Fireworks 自己的「专业化模型」系列的第一款。
这条发布真正的信息量,在于它把「推理 token 是 agent 成本的大头」从抱怨变成了可卖的产品:同样的质量、少三到四成 token。对团队的直接影响是——如果你的账单里推理 token 占大头,值得排一次小范围对比测试,把缓存命中率一起测出来;但别拿这份发布方自测当结论,等一个第三方跑分或你自己的一周实测,再决定要不要把主力模型换过去。