OpenAI 自研芯片的互联方案: JALAPENO - 扩展域: Jalapeno 最引人注目的细节是其扩展域可以容纳 2048 个 XPU,而 NVL72
- 序号:439
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
OpenAI 自研芯片的互联方案:
JALAPENO - 扩展域:
Jalapeno 最引人注目的细节是其扩展域可以容纳 2048 个 XPU,而 NVL72 只有 72 个。
他们将扩展分为本地域和全局域——本地域使用铜缆(更高带宽),全局域使用光模块(较低带宽)。
技术介绍原文: “OpenAI 可以在单个扩展网络中连接多达 2,048 个 Jalapeño XPU。该扩展网络由两个域组成,一个是本地域,通过机架内的背板连接所有 128 个 XPU,以及一个全局域,通过 16 个机架使用铜缆和光互连的混合方式连接 2,048 个 XPU。每个机架由 8 个 Chana 开关托盘组成。中间的六个 Chana 开关用于本地域,每个配备一个 102.4T Tomahawk 6 开关 ASIC。本地开关顶部和底部的两个 Chana 开关用于全局域,我们认为可能由 2x 102.4T Tomahawk 6 开关组成,每个开关托盘总计高达 204.8T。”
总体总结
主题正文
- OpenAI 自研芯片的互联方案:
- Jalapeno 最引人注目的细节是其扩展域可以容纳 2048 个 XPU,而 NVL72 只有 72 个。
- 他们将扩展分为本地域和全局域——本地域使用铜缆(更高带宽),全局域使用光模块(较低带宽)。
- 技术介绍原文: “OpenAI 可以在单个扩展网络中连接多达 2,048 个 Jalapeño XPU。
- 该扩展网络由两个域组成,一个是本地域,通过机架内的背板连接所有 128 个 XPU,以及一个全局域,通过 16 个机架使用铜缆和光互连的混合方式连接 2,048 个 XPU。
- 每个机架由 8 个 Chana 开关托盘组成。
- 中间的六个 Chana 开关用于本地域,每个配备一个 102.4T Tomahawk 6 开关 ASIC。
- 本地开关顶部和底部的两个 Chana 开关用于全局域,我们认为可能由 2x 102.4T Tomahawk 6 开关组成,每个开关托盘总计高达 204.8T。