群发资讯网

#小米玄戒O100# 这颗芯片可能比O3还更“科幻”。 它不是传统手机SoC,而是一颗专门为端侧AI准备的高带宽加速芯片。 全球首款6nm晶圆级3D垂直堆叠端侧AI芯片,通过Wafer on Wafer直接把晶圆垂直连接,数据带宽干到了1.22TB/s,相当于传统旗舰手机的16倍。 小米还做了一台O3+O100双芯原型机,本地大模 ​

小米玄戒O100 这颗芯片可能比O3还更“科幻”。

它不是传统手机SoC,而是一颗专门为端侧AI准备的高带宽加速芯片。

全球首款6nm晶圆级3D垂直堆叠端侧AI芯片,通过Wafer on Wafer直接把晶圆垂直连接,数据带宽干到了1.22TB/s,相当于传统旗舰手机的16倍。

小米还做了一台O3+O100双芯原型机,本地大模型推理速度可以达到330 Tokens/s。

这其实就是在解决端侧AI越来越现实的一个问题:

模型跑得动以后,下一堵墙已经从“算力”变成了“内存带宽”。

O100就是冲着这堵墙去的。