Google 与 Oracle 合作将 TPU 引入 Oracle Cloud Infrastructure

报道讲了什么

• Google Cloud 与 Oracle 合作，将 TPU 引入 OCI，OCI 成为 Google 之外首家提供 TPU 的超大规模云厂商。
• 双方计划自 2027 日历年起在 OCI 部署 TPU 容量。
• 面向 PyTorch 的 TorchTPU 栈已在 GitHub 开源。

可以做什么

• 原文称可在 TPU 上使用 vLLM、SGLang、llm-d、TorchTitan、Ray、TorchRec、Hugging Face、LiteRT 等已有工具训练、服务和部署模型。
• 通过 ICI 与 OCS 组合，控制面可实时绕开故障光路而无需重启任务，原文称大规模训练可维持超过 97% goodput。
• 原文称最新一代 TPU 在低延迟服务上每美元性能最高提升 80%。

怎么使用

原文没有提供可复现的操作步骤，请从下方原文或官方说明确认使用方法。

结果与限制

• OCI 上的 TPU 容量属于计划部署，原文给出的起始时间为 2027 日历年内。
• 原文强调原始 FLOPS 不能单独决定训练与推理的经济性，训练看 goodput，推理看延迟与每 token 成本。
• OCI 侧的网络连接由 Oracle Acceleron 承担，TPU 芯片间流量走 ICI 与 OCS。

使用入口与依据