端侧智能体要持续运行在手机、眼镜、机器人等设备上，面临的算力挑战与云端推理截然不同。云端可以堆叠GPU集群，追求纯粹的算力峰值；端侧却必须在有限的功耗预算和物理空间内，同时处理感知、推理、决策、控制等多类任务。单一架构的计算单元无法胜任这种多样性——这正是异构计算成为端侧智能体必然选择的原因。

智能体的工作负载具有鲜明的结构性差异。语音唤醒和界面交互要求微秒级的低延迟响应；大语言模型的推理依赖大规模的矩阵乘法和注意力机制；多模态感知需要并行处理图像、音频、传感器等多路数据流；而具身智能场景中的实时控制则要求确定性的时序保障。如果用CPU处理所有任务，算力不足；如果用GPU处理所有任务，功耗失控；如果用单一NPU处理所有任务，实时性无法保证。异构计算的本质，正是针对不同任务调用最合适的计算单元。

高通的实践清晰地展示了这一思路。其Hexagon NPU并非一个简单的神经网络加速器，而是将标量、向量、张量三类加速器融合在一起的AI子系统。标量加速器负责图像识别、音频分析等经典AI任务以及LLM推理；向量加速器用于加速像素级图像模型和长上下文窗口处理；张量加速器则专门应对更大更复杂的多媒体用例和LVM模型。三个加速器通过专用的大型共享内存高效交换数据——数据不必在CPU和NPU之间反复搬运，这是能效提升的关键来源。以第五代骁龙8至尊版为例，Hexagon NPU拥有12个标量加速器、8个向量加速器及升级的张量加速器，实现了37%的性能提升和16%的每瓦特性能优化。

但这只是异构计算的第一层——NPU内部的异构。更完整的异构计算矩阵是CPU、GPU、NPU的系统级协同。CPU负责即时响应和任务调度，GPU处理图形和密集型并行负载，NPU专职承担AI模型的持续推理。三者各有侧重，又通过统一的内存架构共享数据。高通将这种系统级的异构协同称为AI引擎——它不是三个独立芯片的拼凑，而是从设计之初就围绕智能体工作负载重构的算力系统。

Arm的路径从另一个方向印证了同样的逻辑。2025年初，Arm发布了全球首个基于Armv9架构的边缘AI计算平台，以Cortex-A320 CPU和Ethos-U85 NPU为核心。Cortex-A320是Arm最小的Armv9-A处理器，为物联网带来了SVE2等针对ML性能的指令集扩展，相较前代Cortex-A35，ML性能提升了十倍；Ethos-U85 NPU则专为嵌入式约束和Transformer架构的工作负载设计。两者配合，使该平台能够在端侧运行超10亿参数的AI模型——这在几年前是不可想象的。更重要的是，该平台明确支持基于智能体的AI应用，让智能决策更接近数据采集源头，显著减少延迟并提升隐私保护水平。

异构计算对端侧智能体的价值，最终体现在三个层面。性能层面，专业分工让每种计算单元做自己最擅长的事，避免了“用锤子拧螺丝”的效率损失。能效层面，专用加速器在处理特定操作时比通用处理器节能一个数量级——这对于必须7×24小时持续运行的智能体而言是生存底线。实时性层面，通过将低延迟任务固定在CPU、持续推理卸载到NPU，系统能够同时保证交互的流畅和模型的深度。

端侧智能体从概念走向现实，异构计算提供了必要的算力底座。没有这种“分而治之”的架构设计，大模型就无法在功耗和散热的硬约束下持续运行在终端设备上。对于从事嵌入式与AI开发的学生而言，理解CPU、GPU、NPU如何分工协作、数据如何在异构单元之间流动，是设计端侧智能体系统的基本功——这不再是芯片厂商才需要关心的问题，而是每一个试图让智能体“活”在硬件上的开发者都必须面对的系统工程。