群发资讯网

发现昨天光顾着聊玄戒O3了其实也忘了聊还有一个我开玩笑叫“韬空友商”的旗舰芯片:

发现昨天光顾着聊玄戒O3了其实也忘了聊还有一个我开玩笑叫“韬空友商”的旗舰芯片:玄戒O100,它也是全球首个6nm晶圆级垂直堆叠芯片。

首先就是我们得理解一下,玄戒O100的定位或者说性质,它不是一颗普世意义上的SoC,因为它没有CPU、GPU这些传统意义上SoC的集成单元,它本质上是一颗Wafer‑on‑Wafer 晶圆对晶圆堆叠 + Hybrid Bonding混合键合技术的端侧近存计算AI协处理器。怎么理解,很简单,就是以前AI计算时NPU受限于外部LPDDR带宽(知道为什么这次要上LPDDR6了吧,因为96Bit位宽啊),大模型推理大量时间消耗在搬运权重数据,算力跑不满。O100把计算NPU和内存垂直堆叠在一起,近存计算,从物理层面缩短数据路径,专门服务本地大模型Agent、长文本生成、多模态推理。这样呢以后高负载大模型推理就可以让O100接管,带来至高330 Token/s的推理速度 。

那么它牛在哪呢,当然是刚刚讲到的Wafer‑on‑Wafer 晶圆对晶圆堆叠 + Hybrid Bonding混合键合,说白了就是1片6nm NPU计算晶圆用整片晶圆键合叠了2片AI专用DRAM内存晶圆,不是传统颗粒POP封装,这其中有258万个物理键合连接节点;键合间距1.4μm,TSV硅通孔孔径仅0.7μm,可以实现1.22TB/s超高带宽,自始至终对于AI计算来说最重要的就是高效输出,这种dram叠logic的思路就大大缩减了内存搬运数据的时间,利于快速出计算数据。

现在你就知道玄戒O100的含金量是多少了,以及小米为什么要出一个便携计算终端了吧。