群发资讯网

【内存只增3%推理却快30倍,英伟达在暗示什么?】英伟达刚公布了一项AI内存全栈协同设计方案,Vera Rubin平台每GPU内存容量仅增加约3%,但推理吞吐量最高能提升30倍。这个反差说明,AI性能的下一轮提升可能不再靠堆内存,而是靠系统级协同设计。英伟达的方案核心是“全栈协同”,意思是把内存、存储、 ​

【内存只增3%推理却快30倍,英伟达在暗示什么?】英伟达刚公布了一项AI内存全栈协同设计方案,Vera Rubin平台每GPU内存容量仅增加约3%,但推理吞吐量最高能提升30倍。这个反差说明,AI性能的下一轮提升可能不再靠堆内存,而是靠系统级协同设计。英伟达的方案核心是“全栈协同”,意思是把内存、存储、互联和软件调度放在一起重新设计,而不是单纯加大单颗GPU的内存。容量只增3%,说明物理容量不是瓶颈,瓶颈在于数据搬运和访问效率。推理吞吐量提升30倍,靠的是减少数据移动、提高利用率,相当于把一条堵车的路改成多车道分流,而不是把路加宽。对A股的影响要分开看。直接受益的可能是做内存接口、先进封装、HBM相关但更偏系统方案的公司,而单纯讲“内存容量扩大”的故事需要打个问号。当前A股收盘数据是11月5日的,上证指数涨0.10%,科创50涨1.68%,成长风格占优,但这条技术新闻发生在美股交易时段,对A股的实际传导要等开盘后看资金反应,不能提前定性。更值得关注的是,英伟达把提升点放在推理吞吐量上,说明AI应用正在从训练转向推理,推理侧对成本和效率更敏感。这或许会带动国内做推理优化、边缘计算、算力调度的公司被重新审视,但素材里没有具体订单或业绩数据,只能作为观察方向。