跳转至

Google TPU 架构

TPU 是 Google 为深度学习量身打造的专用加速器。与 GPU 的通用 SIMT 路线不同,TPU 通过脉动阵列(Systolic Array)将矩阵乘法做到极致,在特定负载下实现远高于 GPU 的能效比。

文档

TPU vs GPU 速览

维度 GPU (NVIDIA H100) TPU v5p
计算核心 SIMT + Tensor Core 脉动阵列
编程模型 CUDA / Triton JAX / XLA
内存 HBM3 80 GB HBM3 95 GB
互连 NVLink 4.0 + NVSwitch ICI (Inter-Chip Interconnect)
适用场景 训练 + 推理(通用) 训练 + 推理(Google 生态)

参考