突发:谷歌正在开发一种专用推理芯片,因为计算资源短缺如此严重,以至于谷歌云正在拒绝交易
新芯片系列:“Frozen v2”——源自杰夫·迪恩的设计,该设计提议将Gemini权重直接蚀刻到硅片上
v2 改为冻结架构:
>双子座架构硬连线到芯片中 >推理时每瓦特令牌数比最新TPU高10倍 >最早2028年即可部署
DeepMind 押注变压器架构已停止演进
现在模型即芯片

突发:谷歌正在开发一种专用推理芯片,因为计算资源短缺如此严重,以至于谷歌云正在拒绝交易
新芯片系列:“Frozen v2”——源自杰夫·迪恩的设计,该设计提议将Gemini权重直接蚀刻到硅片上
v2 改为冻结架构:
>双子座架构硬连线到芯片中 >推理时每瓦特令牌数比最新TPU高10倍 >最早2028年即可部署
DeepMind 押注变压器架构已停止演进
现在模型即芯片
