🌐随着 TPUv8t（其全新训练专用 TPU）的推出，谷歌公布了一种名为 Virgo 的新型横向扩展网络架构。Virgo 能够将多达 134,400 颗芯片互联
- 序号：205
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
🌐随着 TPUv8t（其全新训练专用 TPU）的推出，谷歌公布了一种名为 Virgo 的新型横向扩展网络架构。Virgo 能够将多达 134,400 颗芯片互联，提供高达 47 Pbps 的无阻塞对分带宽。 🚀这标志着一次代际飞跃，相比上一代，每个加速器的带宽最高提升 4 倍，延迟降低 40%。从网络角度上来看，该架构在扁平的两层拓扑上连接了 14 个 TPU pod（每个 pod 通过 3D Torus ICI 互连 9,600 个 TPU），每层有 14 个平面，每个平面包含 150 台交换机。Google 在 L1 层使用了基于 Tomahawk 5 的高基数交换机，在 L2 层使用了 Tomahawk 4 交换机。 🔌在平面内部，每个交换机通过全互联方式连接，L1 层使用 800G 2xFR4 OSFP 并采用 8x100G 分支模式，L2 层使用 400G FR4 OSFP 并采用 4x100G 链路模式。为维持无阻塞拓扑，Google 在 L1 架与 L2 层 TPU 托盘中有 14 个连接到对应的平面（即 TPU 托盘 1 连接平面 1，TPU 托盘 2 连接平面 2，以此类推），剩余 2 个托盘（即 4 个 NIC）用于连接 Jupiter Network。NIC 直接连接到平面，NIC 侧使用 400G FR4 OSFP，L1 交换机侧使用 800G 2xFR4 OSFP。
总体总结
主题正文
- 🌐随着 TPUv8t（其全新训练专用 TPU）的推出，谷歌公布了一种名为 Virgo 的新型横向扩展网络架构。
- Virgo 能够将多达 134,400 颗芯片互联，提供高达 47 Pbps 的无阻塞对分带宽。
- 🚀这标志着一次代际飞跃，相比上一代，每个加速器的带宽最高提升 4 倍，延迟降低 40%。
- 从网络角度上来看，该架构在扁平的两层拓扑上连接了 14 个 TPU pod（每个 pod 通过 3D Torus ICI 互连 9,600 个 TPU），每层有 14 个平面，每个平面包含 150 台交换机。
- Google 在 L1 层使用了基于 Tomahawk 5 的高基数交换机，在 L2 层使用了 Tomahawk 4 交换机。
- 🔌在平面内部，每个交换机通过全互联方式连接，L1 层使用 800G 2xFR4 OSFP 并采用 8x100G 分支模式，L2 层使用 400G FR4 OSFP 并采用 4x100G 链路模式。
- 为维持无阻塞拓扑，Google 在 L1 架与 L2 层 TPU 托盘中有 14 个连接到对应的平面（即 TPU 托盘 1 连接平面 1，TPU 托盘 2 连接平面 2，以此类推），剩余 2 个托盘（即 4 个 NIC）用于连接 Jupiter Network。
- NIC 直接连接到平面，NIC 侧使用 400G FR4 OSFP，L1 交换机侧使用 800G 2xFR4 OSFP。