OpenAI自研芯片性能超预期,HBM4加码,性能对标Nvidia GB系列 🌟 OpenAI性能优化,综合性能指标与NV GB系列旗鼓相当 ➠性能指标方面,O

图片

无图片

正文

OpenAI自研芯片性能超预期,HBM4加码,性能对标Nvidia GB系列

🌟 OpenAI性能优化,综合性能指标与NV GB系列旗鼓相当 ➠性能指标方面,OpenAI Jalapeno FP8性能(3.4 PFLOPs)介于H200(1.98)与GB200(5)之间;FP4性能(13.4 PFLOPs)仅略低GB300(15 PFLOPs)。 ➠最大亮点是使用HBM4,带宽极高(15.4 TB/s),仅次于Rubin和MI450X,功耗仅700W,能效比出众。 ➠在Kimi K2.5的运算上,Jalapeño 的运算速度接近 700tok/s/user,是GB200的 9 倍以上。

🌟架构方面,单集群可连接 2,048个 Jalapeño XPU。 ➠本地域(Local Domain):单个机架内 128个 XPU 通过背板全互连。 ➠全局域(Global Domain):16个机架(每个机架128个XPU)通过铜缆+光纤混合互连,组成2,048 XPU的大集群。 ➠Local Domain:6个托盘 × 102.4T Tomahawk 6 = 614.4T 交换容量 ➠Global Domain:2个托盘,每个含2×102.4T = 204.8T/托盘,共409.6T。Global Domain为OCS的使用层级。

[玫瑰]我们认为:当前全球算力建设加速,数据中心间互联带宽持续提升,OCS产业链公司业绩兑现节奏有望加速。建议关注: ➠OCS整机: 德科立等 ➠OCS核心零部件: 腾景科技、赛微电子、炬光科技等 ➠光纤及连接器: 长飞光纤、长芯博创等。

风险提示:产业推进不及预期的风险;行业关键技术突破不及预期的风险;竞争格局变化的风险。

总体总结

主题正文

  1. ➠性能指标方面,OpenAI Jalapeno FP8性能(3.4 PFLOPs)介于H200(1.98)与GB200(5)之间;
  2. ➠最大亮点是使用HBM4,带宽极高(15.4 TB/s),仅次于Rubin和MI450X,功耗仅700W,能效比出众。
  3. ➠在Kimi K2.5的运算上,Jalapeño 的运算速度接近 700tok/s/user,是GB200的 9 倍以上。
  4. ➠本地域(Local Domain):单个机架内 128个 XPU 通过背板全互连。
  5. ➠全局域(Global Domain):16个机架(每个机架128个XPU)通过铜缆+光纤混合互连,组成2,048 XPU的大集群。
  6. ➠Local Domain:6个托盘 × 102.4T Tomahawk 6 = 614.4T 交换容量
  7. ➠Global Domain:2个托盘,每个含2×102.4T = 204.8T/托盘,共409.6T。