OpenAI CEO Sam Altman 在一档播客里被问到本地推理,回答得很直接:从全球分配角度看,让每个人把世界上有限的 DRAM 放在自己电脑里、只用 5% 的时间,是"quite terrible";在供给这么紧的情况下,云端才有最高利用率。这段话出现在 Cheeky Pint 采访的第 29 分钟,报道点名了他口中"你桌上那 32GB"。
你桌上 32GB 内存按他自己的 5% 折算,一天只有一小时出头在用;而他数据中心里同一批内存是 24 小时跑着的。这也不只是技术讨论——OpenAI 的主力是跑在数据中心的闭源模型,本地能跑开源权重,意味着少订一份订阅,报道本身也点明了这层利益关系。
内存正在被当作战略资源分配,个人装机的内存供给与价格更多取决于数据中心的需求,不会因为模型变小就自然下降。要算的不是"能不能跑",是自己一天跑多少 token、每 GB 内存换来多少速度。
这是采访口述,不是 OpenAI 的政策文件,没有分配方案,也没有任何测算数字;"5%"是他自己的说法,没有给出统计口径。评论区那条"数据中心七成时间在闲置"的反驳没有出处,不能当证据。
本地 AI 不会因为一句话消失,但"本地一定更省"这个前提要自己算——先量用量,再决定内存买多大。