想把 Agent 常驻在本地、又不想按 token 付钱的人，最关心的其实不是"能不能跑"，而是上下文一长会不会慢到没法用。MacStories 的 Federico Viticci 9 月 21 日放出了一组实测，机器是 256GB 统一内存的 M5 Ultra Mac Studio，对照组是上一代 M3 Ultra（512GB）和他自己那台装了 RTX 5090 的台式机。

硬件底子先摆出来：M5 Ultra 是 80 核 GPU、每核带一个 Neural Accelerator，官方口径的 AI 峰值算力是 M3 Ultra 的 4.5 倍；内存带宽从 819GB/s 提到 1.2TB/s，涨了 50%；512GB 的型号要等到十月底。

实测用的是 MLX 跑的 Qwen3.8-Flash-Next。短提示下生成速度平均比 M3 Ultra 快约 70%，提示处理平均快 150%（约 2.5 倍）；长提示的处理速度 M5 Ultra 在 2,057 到 2,771 token/秒之间，M3 Ultra 是 861 到 1,112。真正拉开差距的是长上下文：同样生成 512 个 token 的回答，背景从 4K 涨到 256K 时，首 token 时间 M3 Ultra 从 4.7 秒变成 244.9 秒，M5 Ultra 从 2.5 秒变成 101.5 秒；写起来也从 91 降到 75 token/秒（M3 Ultra 是 59 降到 39）。

和显卡的对照更说明问题：Qwen3.8 27B 在 64K 上下文下，5090 那台是 51.1 token/秒、M5 Ultra 是 39——显卡更快；但同一测试里，5090 在 256K 上下文下跑了十分钟只读了 3% 的提示就被停掉，M5 Ultra 还能以 24 token/秒写下去。作者还测了并发：单请求 66 token/秒，三个并发合计 81 token/秒，也就是说机器会被压出更多总吞吐。

使用侧的证据是他自己那套研究库：310 份文档，本地 Agent 24 小时跑了 99 天，总成本 0 美元——同一件事如果挂在 OpenAI 或 Anthropic 的 API 上，按他原话是"贵到不可行"。

第一，作者本人写明自己不是 AI 开发者、不训练模型，是个长期折腾本地模型的爱好者；这是单机、单次运行的实测，不是与云端的同任务对照。
第二，价格是评论区在算的账：有人按配置给出 12,299 美元，也有人提醒 512GB 版本十月底才出、还要再加几千美元，还有评论直接反问"那为什么不按每小时 5 美元租 GPU"。
第三，HN 249 分、30 条顶层评论，最高赞的几条其实都在质疑性价比，而不是质疑速度。
第四，这些数字全部来自一台机器上的 MLX 与特定量化版本，换量化格式、换框架都会变。

我的判断：如果你的负载是长上下文、多轮、需要工具调用的常驻 Agent，而且数据不能出机器，这一代 Mac Studio 的"长上下文不塌"是真的跨了一档，值得进候选——尤其是你已经有一台机器能跑 128GB 以上模型的场景。但如果只是偶尔跑推理、或者任务本身很短，租卡和订阅仍然更便宜，别被"零 API 账单"这四个字骗了。