Google 擴充第八代 TPU 陣容：推出導入 AMD 主機 CPU 的 8tx 與雙晶片封裝 8i Max

Google Cloud 正式宣布為第八代 TPU 產品線新增 TPU 8tx 與 TPU 8i Max 兩款系統，使該世代產品擴展至涵蓋大規模訓練（8t）、低延遲推論（8i）、機密運算（8tx）與大量上下文處理（8i Max）的四種配置。 在安全架構方面，TPU 8tx 首度確認與 AMD 合作，採用其客製的 x86 主機 CPU。相較於先前發布的 8t 與 8i 使用 Google 自家 Arm 架構 Axion CPU，TPU 8tx 透過 AMD 晶片結合密碼學驗證與記憶體隔離機制，自處理器、PCIe 通道至 TPU 運算單元及記憶體提供全路徑硬體級機密運算，保護推論階段的模型權重與敏感資料。硬體規格上，TPU 8tx 沿用 12.6 PFLOPS FP4 運算力與 216GB HBM，並導入 Boardfly 低延遲拓撲，可將遠距晶片通訊路徑縮短逾 50%。目前 Google 僅確認此主機 CPU 合作，市場先前傳出 AMD 參與第十代 TPU 單一封裝整合的傳聞尚未獲官方證實；與 Broadcom 的客製 TPU 合作則仍持續進行至最長 2031 年。 為因應多步驟 AI Agent 在拆解任務時產生的密集運算與記憶體負載，Google 推出 TPU 8i Max，將兩顆 8i 晶片整合至單一封裝。該配置提供 384GB HBM（較 8i 增加 33%）、17.2TB/s 頻寬與 768MB SRAM，晶片內 SRAM 與頻寬皆達到兩倍，提升機櫃部署密度並改善吞吐量。 軟體生態與調度層面，Google 與 Meta 等夥伴推出 TorchTPU 以支援 PyTorch 與 Hugging Face 模型原生執行，並釋出接入 Cursor、Claude Code 等工具的開源 TPU 代理套件預覽版。針對 Agent 執行特性，新推的 Agent Compute Engine 可在等待外部工具或查詢時暫停階段並移出記憶體以節能，TPU Sync 軟體則建立多層記憶體架構來加速 KV Cache 轉移與首字生成延遲；GKE 亦加強自訂 ComputeClasses 以支援 GPU 與 TPU 混合負載調度。

值得帶走的重點

• Google 推出 TPU 8tx，採用客製 AMD x86 主機處理器，提供從 CPU、傳輸通道到 TPU 與記憶體的硬體級機密運算防護。
• TPU 8i Max 於單一封裝內整合 2 顆 TPU 8i 晶片，配備 384GB HBM 與 17.2TB/s 頻寬，專門支援 AI Agent 大規模上下文運算。
• Google 確認第八代 TPU 家族擴增至 4 種系統，涵蓋大規模訓練、低延遲推論、機密運算與高吞吐量上下文推論不同場景。
• 發表 TorchTPU 促進 PyTorch 原生執行，並搭配 Agent Compute Engine 與 TPU Sync 改善推論記憶體快取與閒置資源管理。