易车讯10月29日,XHEART新芯航途正式发布大模型芯片X7Ultra,以“大模型定义芯片”为核心理念,从真实量产模型需求出发设计芯片架构,大模型算力达700TOPS。
X7Ultra具备六大产品优势:专为大模型设计的超大核NPU、硬件并行度解锁、AI工具链重构、中国首发量产Armv9车规级CPU、深度异构计算,以及软硬兼备的安全能力。基于量产智驾大模型实测,其NPU计算利用率达到98.7%。相比行业旗舰产品,其内存带宽消耗下降80%,能效提升100%。通过架构与工具链协同创新,X7Ultra支持可部署模型参数量实现10倍提升,让更大的模型在车端高效运行。
MomentaCEO曹旭东在战略合作伙伴XHEART新芯航途发布会上,首次公开分享公司的第三个洞察:“大模型定义芯片。”围绕规模化L4目标,Momenta此前形成两个洞察:通过数据驱动解决长尾问题,通过规模量产获得海量数据。2022年底,Momenta进一步提出“大模型定义芯片”,并与XHEART共同付诸行动。
曹旭东表示,大模型定义的芯片相比通用芯片,性能提升10倍;而规模化L4需要百亿至千亿参数模型,通用芯片难以同时满足功耗、车规可靠性与成本的三重约束,他将其称为“通用芯片的不可能三角”。他认为,唯有从大模型需求出发定义芯片,才有可能在上述约束下支撑千亿参数模型,实现规模化L4,并进一步推动机器人及更多物理AI应用取得突破。
XHEART新芯航途CEO李宗霖在发布会上阐述了公司的核心技术路线——“大模型定义芯片”。随着智能驾驶从多个小模型走向端到端大模型,芯片的设计方式也需要随之改变。这一变化给芯片提出了三道题:算力能否在真实量产模型中充分发挥?今天设计的芯片能否跟上明天的模型?能否在合理能耗下获得所需能力?过去先做芯片、再让模型适配的方式,越来越难以同时回答这些问题。因此,XHEART在2023年创业之初就决定,从真实应用中的模型需求出发,倒推芯片架构,重新组织计算、存储和数据流转,并为未来模型演进预留空间。先理解大模型,再设计芯片,让模型的进步真正转化为产品的进步,是XHEART选择这条路线的出发点。
XHEART新芯航途在发布X7Ultra的同时,首次披露下一代大模型芯片X9的核心研发目标:3000TOPS大模型算力、700GB/s单芯片内存带宽,计划于2027年推出。随着世界模型持续演进,更大规模的模型对芯片计算、存储和带宽提出了更高要求。X9将延续“大模型定义芯片”的技术路线,围绕下一代世界模型推进软硬协同设计,通过计算与访存能力同步提升,让更大的模型高效运行,让更强的算力充分释放。XHEARTCEO李宗霖表示,公司将保持“量产一代、开发一代、预研一代”的研发节奏,扎实完成各阶段研发与验证。从X7到X9,XHEART将持续从模型需求出发,为大模型的下一次进化提前做好准备。