小米玄戒O100 这颗芯片可能比O3还更“科幻”。
它不是传统手机SoC,而是一颗专门为端侧AI准备的高带宽加速芯片。
全球首款6nm晶圆级3D垂直堆叠端侧AI芯片,通过Wafer on Wafer直接把晶圆垂直连接,数据带宽干到了1.22TB/s,相当于传统旗舰手机的16倍。
小米还做了一台O3+O100双芯原型机,本地大模型推理速度可以达到330 Tokens/s。
这其实就是在解决端侧AI越来越现实的一个问题:
模型跑得动以后,下一堵墙已经从“算力”变成了“内存带宽”。
O100就是冲着这堵墙去的。



