群发资讯网

【OpenAI终于自己造芯片了,一颗叫辣椒的芯片,想省一半算力钱】 前两天博通

【OpenAI终于自己造芯片了,一颗叫辣椒的芯片,想省一半算力钱】

前两天博通CEO陈福阳接受采访,又提了一嘴给OpenAI做的那颗芯片,说比传统AI显卡能省一半成本。这芯片叫Jalapeño,翻译过来就是墨西哥辣椒。

事情得从6月底说起,OpenAI跟博通联手,9个月就完成了从设计到流片,号称业界最快的芯片开发记录,传统芯片怎么也得两三年。这颗芯片专攻推理,就是AI回答你问题那部分计算,不做训练。

为啥OpenAI急着自己造芯?说白了就是算力账单太吓人。他们总裁有句话挺实在,我们根本没法足够快地买到算力。AI公司每年买GPU的钱,六到八成花在推理上,推理是每天每秒都在烧钱,训练倒是一次性投入。与其排队等英伟达的卡,不如自己修条轻轨专线,通用显卡那辆越野车,油耗实在扛不住。

不过这事也得泼盆冷水。有人扒出来,OpenAI跟博通去年10月就官宣合作了,奥特曼自己都说双方已经一起干了18个月,所谓9个月可能只是设计定稿之后的工程周期。投资圈还有大佬放话,大多数自研芯片项目会失败,未来三年会看到一批被砍掉。

说到底,英伟达那套CUDA生态养了十几年,不是想掀就能掀的。谷歌TPU走了十年,亚马逊也磨了好几代。这颗辣椒年底才部署,能不能把成本真打下来,两年后见分晓。不过有一点挺确定,巨头们集体下场造芯片,英伟达的好日子,确实没法像以前那么安稳了。