谷歌 TPU 8tx 与 8i Max：四款第八代系统与 17.2 TB/s 带宽

一句话结论：2026 年 11 月 9 日谷歌把第八代 TPU 一次扩到四款，新增的 TPU 8tx 用 AMD EPYC 主机做硬件级机密计算、TPU 8i Max 把两颗 8i 封装在一起把 HBM 带宽翻倍到 17.2 TB/s，两款都属于同一代硅片重新配置出的系统级产品，芯片本身并未更新。

这次发布里最容易被误读的一点是，谷歌没有拿出两颗新芯片。官方博客把话说得很直白，设计一颗新芯片要在硅片上排布数十亿个晶体管，过程受物理定律和漫长的制造周期约束；而系统是把计算、网络、存储围绕芯片重新组织起来的东西，可以在几个月内交付。八代 TPU 里的 8t 和 8i 是今年 4 月 22 日 Cloud Next 大会上发布的训练版与推理版，这次补进来的 8tx 与 8i Max 是同一代硅片的重新配置。谷歌首席技术官 Amin Vahdat 在博客里把这个取舍写成了架构赌注：十年前做第一颗 TPU 时就预判软件演进速度会远快于硅圆制造，所以把 TPU 设计成可组合的积木块。

一年四款是 TPU 历史上的第一次。此前谷歌大约两年更新一代处理器，如今把 AI 芯片的竞争维度从单点性能挪到了按工作负载切分的产品线。

四款八代 TPU 的分工：一台机器要吃掉智能体全生命周期

谷歌给出的定位是把这四款系统串成一条完整链路：8t 负责大规模训练，8i 负责低延迟推理，8tx 负责机密推理，8i Max 负责超大上下文窗口与每机架最高算力密度。四款合起来覆盖从预训练、微调、推理到智能体长任务执行的各阶段。

表里有一行必须标注来源。8i Max 的三个数字带「推算」二字，是因为谷歌 11 月 9 日这篇博客只说翻倍，没有给出绝对值，把 4 月公布的 8i 单芯片数值乘二得到的结果属于外部推算，不是官方规格表。HBM 容量这一栏尤其不能填 576 GB。谷歌博客、产品页和 AMD 的发布稿都只说带宽翻倍，没有一处说容量翻倍。带宽决定 KV cache 每次解码能被读得多快，容量决定多大的模型和上下文塞得下，这是两条不同的限制。

另外一行值得单独看。8tx 是八代里唯一不用谷歌自研 Axion 主机 CPU 的系统，换成了 AMD 第五代 EPYC。原因写在 AMD 同日的发布稿里：这套系统用 AMD 的 Secure Encrypted Virtualization 把机密计算能力从 CPU 延伸到外挂的加速器，加速器的身份和安全配置在被允许直接访问受保护内存之前会先被校验，提示词、模型权重和中间数据在主机内存里以及主机到加速器的传输途中保持加密。谷歌称这是云上 TPU 系统里首次实现硬件强制的机密计算，安全代价接近于零。

8tx 与 8i Max 各自解决什么问题

8tx 针对的是数据在使用过程中的暴露窗口。数据在静态存储和传输途中加密是常规做法，但计算时必须在内存里解密，这段时间是监管行业最不放心的环节。谷歌的说法是受监管企业和政府机构在跑前沿模型、自有模型和智能体时，会把最敏感的数据放在同一套系统里，这些客户此前因为内存中的暴露风险而不敢让数据进入机房。8tx 沿用了 8t 的训练级算力，同时接入 8i 的 Boardfly 低延迟网络，谷歌称延迟比 8t 最多降低一倍。因为网络拓扑换了，8tx 在保留训练级算力的同时能承担推理与智能体执行，同一个集群里可以同时做微调、蒸馏大模型和用强化学习训练智能体，不必在集群之间迁移敏感数据。

8i Max 针对的是内存墙。当几十个智能体同时处理整个代码库或几小时长的视频时，瓶颈往往先出现在内存带宽而不是算力。谷歌的做法是把两颗低延迟 8i 放到同一个封装里，算力、片上 SRAM、HBM 带宽三者同步翻倍，这样处理器手里始终有需要的数据，大负载不会因为等数据而停摆。由于封装里塞进了两倍硅片且机架占地不变，单位面积和单位瓦特能部署的算力随之提高。谷歌云副总裁 Mark Lohmeyer 用高速公路加车道打比方，目的是让更多车同时通过，单车速度的提升并不在这条路径上。同一逻辑也适用于搬运更多数据，智能体的负载特征是突发式的，长期占用资源等待人类回复，甚至 90% 以上的时间处于空转。

Boardfly 这个拓扑值得补一句，它是 8i 换掉沿用多代的 3D torus 之后的产物，灵感来自 2008 年的 Dragonfly 论文。结构是三层：4 颗全互连芯片组成基础块，32 颗组成一组由铜缆连接，36 组再由光路交换机构成一个最多 1024 颗活动芯片的 pod。在同样规模的 3D torus 里最坏路径要走 16 跳，Boardfly 把它压到 7 跳，diameter 减少 56%。对混合专家模型这类需要频繁全对全通信的负载，这个差值直接体现在尾部延迟上。8i 还用集合通信加速引擎替换了从第四代沿用的 SparseCore，把片上集合通信延迟最多降低五倍。

软件栈同步补齐：TPU Sync 与动态切片

硬件之外这次还来了几件软件，其中 TPU Sync 的影响可能被低估。它是面向 TPU 集群的模型状态层，把片上 HBM、主机 DRAM、共享存储和数据中心网络组织成一个统一设计的内存层级，自动把巨大的 KV cache 在毫秒级卸载到片外，在分离式 prefill 与 decode 节点之间流式搬运上下文，并同步强化学习权重。谷歌称这能把 KV 传输延迟和首字延迟降低 90% 以上。谷歌给出的测试是在上一代 Ironwood 平台上跑 Qwen3 235B，KV 传输中位延迟从数秒降到约 230 毫秒，235B 模型在低并发下首字延迟平均下降 60%，480B 下降 90%。测试平台不是新发布的 8i Max 和 8tx，读数字时要看清这一点。

其余几件软件各自解决一个具体痛点。上个月开源的 TorchTPU 让 PyTorch 代码和 Hugging Face 模型原生跑在 TPU 上，vLLM 和 SGLang 也拿到开箱即用的 TPU 后端。新的开源 TPU agent suite 目前是预览版，直接接到 Claude Code、Cursor 和谷歌 Antigravity 这类编码工具里，用自然语言完成 TPU 上手、瓶颈诊断和自定义 kernel 自动调优。开源的 XLA Serving Engine 允许用 Python 训练模型，再用低延迟的 C++ 运行时在 TPU、GPU 和 CPU 上提供服务。GKE 动态切片用光路电路交换把物理硬件供给和逻辑切片解耦，作业启动时间最多缩短五倍，故障恢复最多加快 4.5 倍。Agent Compute Engine 则自动挂起和恢复空闲的智能体会话，避免它们在等待数据库查询或外部工具时白占资源。

谷歌还把承载 Gemini 的 DeepMind 运行时通过 Cloud Pathways 带给了云客户，单控制器架构加上 Virgo 拓扑，把多个切片编排成一台本地机器那样使用，支持亚分钟级的切片热切换和弹性重分片。

和英伟达、AWS 的差距怎么看

把数字摊开看，谷歌这一代并没有在单芯片峰值上追平英伟达。Vera Rubin R200 训练版标称 35 FP4 PFLOPS，288GB HBM4、带宽 22 TB/s；AMD MI455X 标称 40 FP4 PFLOPS，432GB HBM4。8i Max 推算出来的 20.2 PFLOPS FP4 落在两者之下。注意 FP4 与 FP8 不是同一口径，跨精度直接比大小容易失真。

谷歌真正的抓手在系统级。单 pod 层面，8t 组成 9600 颗的 superpod，共享 2 PB HBM，官方给出 121 FP4 ExaFLOPS；8i 的 pod 是 1152 颗、11.6 FP8 ExaFLOPs。规模上，Virgo 织构把 13.4 万颗 8t 挂进单一无阻塞数据中心织构，bisection 带宽 47 PB/s，跨站点可延伸到百万颗级别。同代英伟达的 NVLink 部署上限是 576 颗加速器。训练这种负载吃掉的是几千颗加速器，单颗跑得快不等于集群跑得快。

另一条被反复验证过的逻辑是迁移成本决定客户会不会试。谷歌开源 TorchTPU 之后，PyTorch 代码零改动迁移这件事，对手是二十年的 CUDA 生态。生态优势不会因为一次发布就翻转，但迁移摩擦的下降会直接抬高试用比例。谷歌称 TPU 业务客户已经接近 100 家，包含前沿实验室、交易机构、零售商和高校，这类客户的共同点是对单位算力成本敏感，对生态依赖度低于研究机构。

价格与上市时间这次没有给。谷歌官方博客没有公布 8tx 与 8i Max 的定价，也没有给出绝对规格与可用日期。四月发布的 8t 与 8i 当时的口径是年内陆续上线，本篇提到的软件栈大部分处于预览或刚开源状态。相关硬件的交付节奏可以参考站内此前关于第八代 TPU 供给方的记录。

相关阅读

• 甲骨文首供谷歌 TPU：2027 年上线 8t 与 8i，单芯片 12.6 PFLOPS
• 谷歌开源 TorchTPU：PyTorch 零改动迁移 TPU，CUDA 十年护城河首现裂痕
• 英伟达 Vera CPU 实测：每瓦多跑 1.6 倍智能体
• 高通 HBC 验证完成：AI250 内存带宽 133 TB/s 与 18 倍对比
• 谷歌 Project Suncatcher：4 枚 TPU 在轨跑通 AI 推理

常见问题

TPU 8tx 和 8i Max 是新芯片吗？

都不是。8tx 用的是 8t 的同一颗硅片，换掉了主机 CPU 和互连网络；8i Max 是把两颗 8i 封装到同一封装里。谷歌反复强调这两点是系统级配置而非新芯片设计，理由是重做一颗芯片的周期以年计，而改系统的交付周期是几个月。

8i Max 的 20.2 PFLOPS 是官方数据吗？

不是官方数据，这是把 4 月公布的 8i 单芯片 10.1 FP4 PFLOPS 乘二得到的推算值。谷歌官方只说算力、SRAM、HBM 带宽三项翻倍，没有给出绝对规格，HBM 容量更是完全未公布。需要特别注意的是带宽翻倍不等于容量翻倍。

现在能用上 8tx 和 8i Max 吗？

不能立即用上。谷歌没有公布这两款系统的价格和可用日期，同期配套的 TPU agent suite 处于预览阶段，XLA Serving Engine 与 TPU Sync 是刚开源。实际可租用容量与硬件发布时间表也不是一回事，四月发布的 8t 与 8i 的落地节奏可以参考站内另一篇记录。