OpenAI 自研芯片的互联方案: JALAPENO - 扩展域: Jalapeno 最引人注目的细节是其扩展域可以容纳 2048 个 XPU,而 NVL72

图片

无图片

正文

OpenAI 自研芯片的互联方案:

JALAPENO - 扩展域:

Jalapeno 最引人注目的细节是其扩展域可以容纳 2048 个 XPU,而 NVL72 只有 72 个。

他们将扩展分为本地域和全局域——本地域使用铜缆(更高带宽),全局域使用光模块(较低带宽)。

技术介绍原文: “OpenAI 可以在单个扩展网络中连接多达 2,048 个 Jalapeño XPU。该扩展网络由两个域组成,一个是本地域,通过机架内的背板连接所有 128 个 XPU,以及一个全局域,通过 16 个机架使用铜缆和光互连的混合方式连接 2,048 个 XPU。每个机架由 8 个 Chana 开关托盘组成。中间的六个 Chana 开关用于本地域,每个配备一个 102.4T Tomahawk 6 开关 ASIC。本地开关顶部和底部的两个 Chana 开关用于全局域,我们认为可能由 2x 102.4T Tomahawk 6 开关组成,每个开关托盘总计高达 204.8T。”

总体总结

主题正文

  1. OpenAI 自研芯片的互联方案:
  2. Jalapeno 最引人注目的细节是其扩展域可以容纳 2048 个 XPU,而 NVL72 只有 72 个。
  3. 他们将扩展分为本地域和全局域——本地域使用铜缆(更高带宽),全局域使用光模块(较低带宽)。
  4. 技术介绍原文: “OpenAI 可以在单个扩展网络中连接多达 2,048 个 Jalapeño XPU。
  5. 该扩展网络由两个域组成,一个是本地域,通过机架内的背板连接所有 128 个 XPU,以及一个全局域,通过 16 个机架使用铜缆和光互连的混合方式连接 2,048 个 XPU。
  6. 每个机架由 8 个 Chana 开关托盘组成。
  7. 中间的六个 Chana 开关用于本地域,每个配备一个 102.4T Tomahawk 6 开关 ASIC。
  8. 本地开关顶部和底部的两个 Chana 开关用于全局域,我们认为可能由 2x 102.4T Tomahawk 6 开关组成,每个开关托盘总计高达 204.8T。