群发资讯网

多轮聊到第五轮,token 六倍,账单反而降了

第五轮发出去的 token,是头一轮的六倍多。我看到这个数,把写好的一句劝告删了——本来这篇的结尾是"长会话该断就断"。
删它是因为我把 DeepSeek 的三页东西翻了一遍:多轮对话指南、定价页、缓存页。我想搞清的是一件小事——每轮对话都把历史重发一遍,这到底怎么收钱。结论跟我预想的相反:token 确实在翻着倍涨,钱反而在降。降的原因不在聊天长度,在一行几乎没人注意的价目。
我原以为服务器会替我记着上下文
多轮对话指南的第一段就把我拦下了。文档里写:"DeepSeek /chat/completions API 是一个'无状态' API,即服务端不记录用户请求的上下文,用户在每次请求时,需将之前所有对话历史拼接好后,传递给对话 API。"
我的反应是——网页里能聊那么长,原来是客户端在硬撑。每一轮都把整个聊天记录原样再发一遍;服务器不记,你记;你记的方式,就是重发。
顺带一提,文档里的例子笨得可爱:第一轮问世界上最高的山,第二轮问第二高的是哪座——就为了演示这两轮之间,messages 数组是怎么变长的。
于是我搭了个最笨的模型来算账:system 提示词 200 token,每轮提问 100,每轮回复 300(思考模式默认开着,这 300 里就算上它心里想的那部分)。第一轮发出去 300,第五轮发出去 1900。
我顺手把五轮加了一遍:5500 token 里,你当场问出去的话只有 500,占 9%;剩下九成,是旧话。
想自己看一眼的话,有个笨办法:把你在某个产品里聊得最长的会话导出,数数总字数,再除一下你最后一轮发了多少——那个倍数,就是你每轮在重发的倍数。
同一段历史,被收了两道价
数完 token,我准备下结论了,定价页上输入价有两行,又把我拦下:缓存命中、缓存未命中。deepseek-flash 非峰值时段,命中 0.003 美元/百万 token,未命中 0.15 美元/百万 token——差 50 倍。
缓存那页文档写得很直白:"上下文硬盘缓存技术对所有用户默认开启,用户无需修改代码即可享用","若后续请求与之前的请求在前缀上存在重复,则重复部分只需要从缓存中拉取,计入'缓存命中'"。
我按它的规则又推了一遍。每轮请求跑完,输入结尾和输出结尾各落一个缓存单元;下一轮只要完整匹配得上,整段按命中价走。多轮对话正好长成这个形状——所以从第二轮到第五轮,每轮只有新问的那 100 token 按未命中价收,前面 1800 token 全是命中价。
五轮的账,我一轮一轮算给你(美元,非峰值):
第 1 轮:输入 300 个 token,命中 0、未命中 300,这一轮 0.000225
第 2 轮:输入 700 个 token,命中 600、未命中 100,这一轮 0.000197
第 3 轮:输入 1100 个 token,命中 1000、未命中 100,这一轮 0.000198
第 4 轮:输入 1500 个 token,命中 1400、未命中 100,这一轮 0.000199
第 5 轮:输入 1900 个 token,命中 1800、未命中 100,这一轮 0.000200
(这张表按每轮完整命中算,是偏乐观的一版。)
token 涨了 6.3 倍,钱降了 11%。我盯着这张表看了会儿——这笔账的走向,不取决于你聊了几轮,取决于缓存给不给折、给多深。
要是你跑的是 Agent——system 加一堆工具定义,每轮原样重发——那固定前缀更长,命中段占比更高,每轮按未命中价收的还是只有新问的那几句。账的方向不变,量级更大。
还有两个能自查的地方。文档说响应里有个 usage 字段,prompt_cache_hit_tokens 和 prompt_cache_miss_tokens 两个数,命中多少、未命中多少,自己翻一眼,比猜准。文档也写明缓存是"尽力而为",不保证 100%,而且不用了会在数小时到数天内自动清——所以别把命中当铁律,改一次前面的消息,从那句往后全部按未命中价重收。
我把同一套账搬到智谱,折只有四分之一上下
我不信这是行业标配,又翻了智谱的定价页。GLM-5.3-Flash:输入 0.8 元/百万 token,缓存命中 0.23 元/百万 token——三成不到;GLM-5.3 更齐整:输入 8 元、命中 2 元,正好四分之一。它页面上的原话是:命中价"通常为输入单价的较低比例"。
我的判断:同样是重发历史,DeepSeek 打到 1/50,智谱打到 1/4 上下,差出十几倍。以后选型,除了问单价,多问一句——你们家缓存命中打几折。这一句问出来的差距,可能比单价本身还大。(这是我的判断,不是推荐你换谁。)
我还不死心,把同一套账换成 deepseek-v4-pro 又跑了一遍:命中 0.022、未命中 0.66、输出 1.98 美元/百万 token,结论没变——第五轮还是比第一轮便宜。这套折,两个档位上都在。
另外智谱那边多一行我没在 DeepSeek 页面上见过的东西:缓存存储费,按元/百万 token/小时计,多数模型目前限时免费。DeepSeek 这页只有命中价,没列存储价——没列就是暂时不收,可"限时"两个字,在智谱页面上挂着呢。
还有两行小字我抄下来了。峰值时段:UTC 01:00 到 04:00、06:00 到 10:00,周一至周五,不含中国法定节假日——换成北京时间,就是工作日上午 9 点到 12 点、下午 2 点到 6 点,这期间全线翻倍,缓存命中也跟着翻倍;其余时间半价。DeepSeek 定价页页脚还留了两句:产品价格可能会调整,它保留调整的权利,并建议经常回来看这页;赠的余额和充的余额同时存在时,先用赠的。所以这篇里的每个数,都只对今天有效。
跑批的活儿,记住挪出工作日那两段。
算到最后,八成的钱不赖历史
我把五轮总账拆开:0.00102 美元里,输出——也就是 AI 写的回复——占 0.0009,88%;你的输入只占 12%,而输入里 4800 个 token 走的是命中价,一共花了 0.0000144 美元。同样的 token 按未命中价要 0.00072,缓存把这段打了 1/50。
再算一个没有缓存的世界:5500 个输入 token 全按未命中价,总账 0.001725。缓存一共省下四成。
我的结论是:在多轮对话里该盯的不是"历史有多长",是"AI 每轮写多长"。我把每轮回复从 300 改成 3000 又算了一遍——输出占比从 88% 冲到 99%。
所以我那篇劝告最终改成了这样:该断就断,不为省钱,为的是让 AI 少写废话、别把上下文占满。1M 的上下文,每轮净增 400 token,纯数学能撑两千多轮——但真没人这么聊天,模型陪着聊久了走不走神,那是另一本账,今天不算。
今天能带走的就四件事:翻一眼自己响应的 usage,看命中未命中两个数;别中途改前面的消息;跑批避开工作日那两段;选型多问一句缓存打几折。
你聊得最长的那个会话,拉到最底下看过总字数没有?评论区报个数,我按这套算法替你算五轮的账,看看你吃到的缓存是几折。再顺手站个队:同一段历史收两道价,打到 1/50 和打到 1/4,你觉得哪家算厚道?
本文含 AI 辅助创作内容:资料检索与初稿由 AI 完成,观点梳理、数据核验与编校由人工完成。