DeepSeek 开源 DeepInfer 时披露:单集群日处理 155 万亿 Token,按谷电价折算,每张 GPU 每小时收入 38 美元(约 270 元人民币)。随后社区用户推算集群仅 2400 卡,甚至算出“1 GW 算力年赚 1500 亿美元(约 1.07 万亿元人民币)”。但这并非算力暴利,而是一场把缓存复用做到极致的工程游戏。
1. 38 美元是怎么来的?
单卡每小时进账 38 美元,并不代表算力贵,反而建立在极低单价上。
官方 API 谷电价:
(a) 全新输出:0.60 美元(约 4.3 元)/ 百万 Token
(b) 命中缓存输入:0.003 美元(约 0.021 元)/ 百万 Token(仅为输出价 1/200)
单卡能跑出 38 美元,关键在于任务大多是长文本 Agent,上下文重叠极多,缓存命中率达 96% 左右。显卡并未花算力做全新生成,而是在搬运已算好的缓存数据。这是靠 2 分钱极低单价加 96% 超高复用率堆出来的。
2. 通用引擎追平,底牌不在内核
开源不到 4 天,SGLang 和 vLLM 便在同硬件下追平性能,折算单卡产出同样接近 39 美元(约 277 元人民币)。专用内核并无壁垒,真正关键的是没开源的外围工程:
(a) 外挂存储:单卡约 14.4 TB 缓存放到分布式存储(3FS),不占显存;
(b) 长效保鲜:缓存保留 3 到 7 天,维持超高命中率;
(c) 物理分离:把“输入”和“输出”拆到不同机器调度。
3. 别把特例当行业暴利
业内的宏观推论存在过度外推:
(a) “单日顶全网一周”:单日 155 万亿 Token 虽接近 OpenRouter 一周走量,但对方散客多、单价高;DeepSeek 是极致批发,两者营收不在一个量级。
(b) “2400 卡与年入千亿”:2400 卡基于 96% 命中率反推,按存储也可推至 6000 到 8000 卡;“1 GW 算力年入千亿”更建立在每张卡全年满载跑高效任务的假设上。现实中利用率跌到 50%,租卡服务商就会亏损。
把缓存和调度做到极限,卖白菜价也能维持单卡产出。但软件壁垒正迅速变窄,未来推理的胜负手,已转向基本功:谁的电价更便宜、谁能搭出低成本大规模存储,以及谁能把机器时刻喂满。
#AI替我说 #Deepseek



