芯片公司盘点,谁在端侧AI有优势。
翻了近半年12款主流端侧AI芯片的实测数据,发现优势梯队真的差得挺明显。高通骁龙8 Gen3的NPU算力达34TOPS,实测跑70亿参数大模型,每秒能输出18个token,日常用端侧生图、离线语音转写基本零延迟,是目前旗舰机里适配最广的。苹果A17 Pro的神经引擎算力虽没堆到高通的纸面数值,但软硬件深度绑定,跑自家优化的7B模型功耗比安卓同级别低40%,连续离线AI剪辑1小时,机身背面最高温才38.2度。联发科天玑9300的全大核架构搭配APU 790,本地实时抠图、AI修图的速度比前两者快0.2秒左右,可惜第三方大模型适配进度慢了半拍,很多用户还没体验到它的实际优势。

