Google TPU 正式进驻 Meta 数据中心，Nvidia 护城河受挑战
1 核心突破：TPU 进入 Meta 生产环境 谷歌的张量处理单元（TPU）现已通过新的 PyTorch 原生版 SGLang 推理引擎，在 Meta 的数据中心投入生产使用。这一消息由谷歌开发者博客宣布，标志着 TPU 首次向外部客户销售并用于实际 AI 工作负载。
与此同时，另一款广泛使用的推理引擎 vLLM 的匹配版本也宣布开源。此前，这两款引擎均依赖谷歌自家的 JAX 框架在 TPU 上运行。新版本使得硬件成为 PyTorch 的原生选项，且大部分情况下无需重写代码。
2 技术合作：PyTorch 原生支持与历史沿革 Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 表示，SGLang-TorchTPU 已在 Meta 生产环境中运行。这是 Meta、谷歌和 SGLang 团队紧密三方协作的结果，该团队位于由 SGLang 创始人创立的初创公司 RadixArk。
Meta 的 PyTorch 工程总监 Jana van Greunen 补充称，Meta"不能被单一硬件架构所限制"，而 TorchTPU 使其能够将 PyTorch 工作负载部署到谷歌 TPU 上。
这并非 Meta 首次尝试使用 TPU。谷歌将旧版的 PyTorch/XLA 称为新 TorchTPU 的"前身"。据 SemiAnalysis 去年报道，Meta 研究团队曾在 2020 年至 2023 年间 通过此桥接使用 TPU，随后取消了合同。此次推动主要面向不愿迁移至 JAX 的 Meta。
3 性能实测：铁木 TPU 对比 Nvidia GB200 在性能方面，经过调优的 vLLM 设置服务于 Moonshot AI 的开源权重模型 Kimi K3（2.8 万亿参数）。据报道，在第七代 Ironwood TPU 上，单用户速度超过 700 tokens/秒。
该数据来自 vLLM 创始人创立的初创公司 Inferact，其测试使用了 16 块 Ironwood 芯片 配合推测解码。相比之下，vLLM 在 16 块 Nvidia GB200 上的发布设置仅达到 452 tokens/秒。
在不使用推测解码的小批量场景下，针对 Kimi K3 和 Qwen 3.8 27B 的内核吞吐量约为 GB200 基准的 1.4 到 2 倍。
4 行业影响与未来规划 虽然 Meta 生产用 TPU 的具体位置尚不清楚，但去年的谈判 reportedly 包括 2026 年的谷歌云 TPU 租赁及 2027 年的购买。Meta 后来据报道签署了一份多年租赁协议。
就在该公告前一天，亚马逊也在同一 PyTorch 大会上开源了其 Trainium2 和 Trainium3 芯片的原生 PyTorch 后端 TorchNeuron。这两项举措似乎旨在削弱 Nvidia 的软件锁定效应。
根据 RadixArk 的说法，SGLang-TorchTPU 将从 DeepSeek V4.1 Flash 和 Reflection Beam 开始增加模型支持。目标是在 2027 年第一季度 前实现对新开源模型的发布日当天支持。
谷歌、Meta 和 RadixArk 计划在 SGLang Summit 2026（11 月 12–13 日，旧金山） 分享更多信息。
— END — 人工智能 GoogleTPU Meta AI芯片 PyTorch Nvidia
关注我们，获取更多科技前沿资讯