群发资讯网

智谱说国产AI芯片最大的短板三点: 1、显存不足; 2、带宽不足; 3、算子不足。 今天华为发的960,HBM最大支持288GB(是支持,不是说就有,现在要确保HBM足够是个供应链问题),带宽9.6TB/s(还要看集群总体有效带宽),FP8算力2Pflops。 960在硬件上在努力解决显存、带宽的问题。 算子的问题,则是华 ​

智谱说国产AI芯片最大的短板三点:1、显存不足;2、带宽不足;3、算子不足。今天华为发的960,HBM最大支持288GB(是支持,不是说就有,现在要确保HBM足够是个供应链问题),带宽9.6TB/s(还要看集群总体有效带宽),FP8算力2Pflops。960在硬件上在努力解决显存、带宽的问题。算子的问题,则是华为必须要解决的。好在他们说,AI可以帮助写算子。。。真是意想不到的收获。以前CUDA生态,靠300万开发者。现在AI生态,300万个agent帮你写算子一样达到效果。绕过软件生态壁垒了。