群发资讯网

Anthropic与美光的合作,重点是双方将共同设计AI内存与存储架构...

Anthropic与美光的合作,重点是双方将共同设计AI内存与存储架构。随着模型规模、上下文长度和推理调用量持续增长,AI的瓶颈正在从单纯的GPU算力转向数据搬运效率。训练和推理过程中,权重、KV Cache、检查点和推理数据需要在HBM、DRAM、SSD和网络之间不断流动,任何一个环节出现瓶颈,都可能导致昂贵的GPU集群无法充分发挥性能。双方合作的的意义并不只是锁定供应,而是研究Claude的训练和推理负载特征,优化数据应该放在哪里、如何流动以及如何降低每个Token的生成成本。这意味着大模型厂家未来的算力竞争焦点将从“谁拥有更多 GPU”,逐步转向“谁拥有更高效的AI内存与存储体系”。

从这个角度看,这也是与华为提出的“韬定律”有相通之处,只是比韬定律更远了一步。过去行业主要关注计算能力,如今越来越多的性能和成本取决于数据移动效率。谁能协同优化 GPU、HBM、DRAM、SSD和网络,谁就更有机会在下一阶段AI基础设施竞争中占据优势。