📶谷歌 TPU——V8t 光模块和 OCS 配比测算 📌一、垂直扩展（Scale Up） 🔗光模块方面，9600 卡内部沿用三维环形加光电路交换架构，芯片间双向
- 序号：226
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
📶谷歌 TPU——V8t 光模块和 OCS 配比测算
📌一、垂直扩展（Scale Up） 🔗光模块方面，9600 卡内部沿用三维环形加光电路交换架构，芯片间双向带宽从 9.6 太比特每秒提升至。 🔗由于每个张量处理器与 6 颗相邻张量处理器互联，垂直扩展光模块速率从 800 吉比特每秒升级至，配比维持不变。 ⚙️光电路交换方面，芯片间集群从原有架构的 9216 卡拓展至 9500 卡，同样配套 48 台光电路交换机。 ⚙️配比略微减少，但有效端口数从 288 端口升级至。 📌二、水平扩展（Scale Out） 🔗光模块方面，原有架构每个计算托盘集成 4 颗第七代张量处理器，共配置 2 张高性能网络处理器网卡，每张 2 乘 200 吉比特每秒，通过 2 个 200 吉比特每秒光模块上行接到机架交换机。 🔗第八代训练张量处理器单卡带宽提升 4 倍，张量处理器与网卡数量比例从 2 比 1 增加至 1 比 1，网卡带宽从 2 乘 200 吉比特每秒升级至 2 乘 400 吉比特每秒。 🔗如果通过 400 吉比特每秒光模块连接机架交换机，张量处理器与 400 吉比特每秒光模块比例为 1 比 1，张量处理器与 800 吉比特每秒光模块比例为 1 比 2。 🔗如果通过 800 吉比特每秒光模块连接机架交换机，则张量处理器与 800 吉比特每秒光模块比例为 2 比 5。 ⚙️光电路交换方面，原有架构中 144 个 64 卡机柜组成一个 9216 卡的集群，4 个集群组成一个聚合模块，4 个聚合模块组成 147456 卡大集群，通过 64 台 300 乘 300 端口光电路交换机将核心层互联。 ⚙️原有架构张量处理器与光电路交换机比例为 127456 比 64。 ⚙️第八代训练张量处理器 134000 卡集群预计顶层约 6700 万端口连接至光电路交换机，大约需要光电路交换机，外部侧光电路交换配比有增长。
总体总结
主题正文
- 🔗由于每个张量处理器与 6 颗相邻张量处理器互联，垂直扩展光模块速率从 800 吉比特每秒升级至，配比维持不变。
- ⚙️光电路交换方面，芯片间集群从原有架构的 9216 卡拓展至 9500 卡，同样配套 48 台光电路交换机。
- 🔗光模块方面，原有架构每个计算托盘集成 4 颗第七代张量处理器，共配置 2 张高性能网络处理器网卡，每张 2 乘 200 吉比特每秒，通过 2 个 200 吉比特每秒光模块上行接到机架交换机。
- 🔗第八代训练张量处理器单卡带宽提升 4 倍，张量处理器与网卡数量比例从 2 比 1 增加至 1 比 1，网卡带宽从 2 乘 200 吉比特每秒升级至 2 乘 400 吉比特每秒。
- 🔗如果通过 400 吉比特每秒光模块连接机架交换机，张量处理器与 400 吉比特每秒光模块比例为 1 比 1，张量处理器与 800 吉比特每秒光模块比例为 1 比 2。
- 🔗如果通过 800 吉比特每秒光模块连接机架交换机，则张量处理器与 800 吉比特每秒光模块比例为 2 比 5。
- ⚙️光电路交换方面，原有架构中 144 个 64 卡机柜组成一个 9216 卡的集群，4 个集群组成一个聚合模块，4 个聚合模块组成 147456 卡大集群，通过 64 台 300 乘 300 端口光电路交换机将核心层互联。
- ⚙️第八代训练张量处理器 134000 卡集群预计顶层约 6700 万端口连接至光电路交换机，大约需要光电路交换机，外部侧光电路交换配比有增长。