🔥 OCS今天强的原因,谷歌不仅量增,技术也增 从 3D Torus 升到 SemiAnalysis 描述的 6D Torus,光连接
- 序号:179
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
🔥 OCS今天强的原因,谷歌不仅量增,技术也增 从 3D Torus 升到 SemiAnalysis 描述的 6D Torus,光连接数量和 OCS 端口需求会出现非常显著的提升, 接近4倍级别,而不是简单翻倍。 但是:TPUv9t 使用 6D Torus 目前并没有得到 Google 官方确认 现有3D Torus: 每颗 TPU 有: 6个邻居 = ±X、±Y、±Z 而所谓6D Torus: 12个邻居 其中: 第一组6条连接:机柜内部,短距离铜连接新增加的6条连接:去往周边其他机柜新增的跨柜连接主要靠光机柜本身再构成第二层 3D Torus Google 现有的是TPU 8t仍然是3D Torus,而且一个Superpod已经扩到9,600颗TPU。 Bisection Bandwidth 对于规则 Torus,如果假定单链路带宽不变: 16³ 3D Torus 理论 bisection links: 2×16^2 =512 4⁶ 6D Torus 理论 bisection links: 2×4^5 =2048 也就是说: 2048/512=4倍
总体总结
主题正文
- 🔥 OCS今天强的原因,谷歌不仅量增,技术也增
- 从 3D Torus 升到 SemiAnalysis 描述的 6D Torus,光连接数量和 OCS 端口需求会出现非常显著的提升, 接近4倍级别,而不是简单翻倍。
- 但是:TPUv9t 使用 6D Torus 目前并没有得到 Google 官方确认
- 而所谓6D Torus:
- 第一组6条连接:机柜内部,短距离铜连接新增加的6条连接:去往周边其他机柜新增的跨柜连接主要靠光机柜本身再构成第二层 3D Torus
- Google 现有的是TPU 8t仍然是3D Torus,而且一个Superpod已经扩到9,600颗TPU。
- Bisection Bandwidth
- 16³ 3D Torus