谷歌推出 TPU 8tx 与 8i Max:一年四款第八代系统
谷歌 11 月 9 日宣布第八代 TPU 新增 TPU 8tx 与 TPU 8i Max 两个系统,前者面向机密推理、后者面向超大上下文窗口;这是谷歌一年内第四次推出第八代 TPU 系统。

发生了什么
谷歌基础设施与 AI 首席技术官阿明·瓦达特 11 月 9 日在官方博客宣布上述消息。8tx 与 8i Max 是 4 月 Cloud Next 推出的 8t 与 8i 之外的两个新系统:8t 面向大规模训练,8i 面向实时推理;谷歌称这是公司首次一年内推出四款 TPU 系统。
TPU 8tx 面向安全与机密推理,同时适合小规模训练。它与 8t 使用同款芯片,搭配第五代 AMD EPYC 主机与 8i 的 Boardfly 低延迟网络;硬件层加密让敏感数据与模型权重在使用中仍受保护隔离。谷歌称其延迟比 8t 低至一半,性能代价接近零;同一系统上可完成微调、蒸馏与强化学习训练智能体,无需在集群间迁移敏感数据。
TPU 8i Max 面向超大上下文窗口。谷歌把两颗 8i 芯片封装在一起,算力、SRAM 与 HBM 带宽均为单颗 8i 的两倍;同一机架占地内容纳双倍芯片,单位面积与单位瓦特算力更高。谷歌未公布两款系统的价格与具体上市时间。
关键事实
- 8tx 定位:机密推理与小规模训练,面向受监管企业与政府客户,在敏感数据旁运行前沿模型与自主智能体
- 8tx 硬件:与 8t 同款芯片,第五代 AMD EPYC 主机,8i 的 Boardfly 低延迟网络
- 8tx 延迟:比 8t 低至一半,性能代价接近零,均为谷歌口径
- 8i Max 结构:两颗 8i 芯片封装在一起
- 8i Max 规格:算力、SRAM 与 HBM 带宽均为单颗 8i 的两倍,面向数十个智能体同时处理整个代码库或数小时视频的场景
- 一年四款:4 月推出 8t 与 8i,11 月 9 日推出 8tx 与 8i Max;谷歌称首次一年内推出四款 TPU 系统
- 上一代对比:8t 训练性能比上一代高至 2.7 倍,8i 推理性价比高 80%,均为谷歌口径;TPU 客户近 100 家
为什么重要
谷歌一年内四次扩充第八代 TPU,把机密计算与超大上下文做成两个独立系统,TPU 从通用加速器转向按智能体工作流分工的专用硬件。
相关公司谷歌
订阅 HIMIAO视界
不用注册 · 随时退订推送通知
早报出来时,手机或电脑上弹一条提醒。不用留邮箱。
™