OpenAI自研芯片性能超预期,HBM4加码,性能对标Nvidia GB系列 🌟 OpenAI性能优化,综合性能指标与NV GB系列旗鼓相当 ➠性能指标方面,O
- 序号:499
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
OpenAI自研芯片性能超预期,HBM4加码,性能对标Nvidia GB系列
🌟 OpenAI性能优化,综合性能指标与NV GB系列旗鼓相当 ➠性能指标方面,OpenAI Jalapeno FP8性能(3.4 PFLOPs)介于H200(1.98)与GB200(5)之间;FP4性能(13.4 PFLOPs)仅略低GB300(15 PFLOPs)。 ➠最大亮点是使用HBM4,带宽极高(15.4 TB/s),仅次于Rubin和MI450X,功耗仅700W,能效比出众。 ➠在Kimi K2.5的运算上,Jalapeño 的运算速度接近 700tok/s/user,是GB200的 9 倍以上。
🌟架构方面,单集群可连接 2,048个 Jalapeño XPU。 ➠本地域(Local Domain):单个机架内 128个 XPU 通过背板全互连。 ➠全局域(Global Domain):16个机架(每个机架128个XPU)通过铜缆+光纤混合互连,组成2,048 XPU的大集群。 ➠Local Domain:6个托盘 × 102.4T Tomahawk 6 = 614.4T 交换容量 ➠Global Domain:2个托盘,每个含2×102.4T = 204.8T/托盘,共409.6T。Global Domain为OCS的使用层级。
[玫瑰]我们认为:当前全球算力建设加速,数据中心间互联带宽持续提升,OCS产业链公司业绩兑现节奏有望加速。建议关注: ➠OCS整机: 德科立等 ➠OCS核心零部件: 腾景科技、赛微电子、炬光科技等 ➠光纤及连接器: 长飞光纤、长芯博创等。
风险提示:产业推进不及预期的风险;行业关键技术突破不及预期的风险;竞争格局变化的风险。
总体总结
主题正文
- ➠性能指标方面,OpenAI Jalapeno FP8性能(3.4 PFLOPs)介于H200(1.98)与GB200(5)之间;
- ➠最大亮点是使用HBM4,带宽极高(15.4 TB/s),仅次于Rubin和MI450X,功耗仅700W,能效比出众。
- ➠在Kimi K2.5的运算上,Jalapeño 的运算速度接近 700tok/s/user,是GB200的 9 倍以上。
- ➠本地域(Local Domain):单个机架内 128个 XPU 通过背板全互连。
- ➠全局域(Global Domain):16个机架(每个机架128个XPU)通过铜缆+光纤混合互连,组成2,048 XPU的大集群。
- ➠Local Domain:6个托盘 × 102.4T Tomahawk 6 = 614.4T 交换容量
- ➠Global Domain:2个托盘,每个含2×102.4T = 204.8T/托盘,共409.6T。