【招商通信】 腾景科技 AI Agent 带动Google网络架构升级,OCS+光模块配比预计提升 💻AI Agent MoE架构的通讯模式从传统的All-to
- 序号:202
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
【招商通信】 腾景科技 AI Agent 带动Google网络架构升级,OCS+光模块配比预计提升
💻AI Agent MoE架构的通讯模式从传统的All-to-reduce模式转换成All-to-all,3D torus架构网络短板显现,后续预计scaleout侧网络带宽提升+scaleup侧从3D向4-10D逐步升维。网络侧投资权重预计显著上修,OCS+光模块配比提升,建议重点关注。
😠传统架构: 1)scaleup: OCS端口数/TPU=1.5:1(3D torus) 2)scaleout:OCS端口数/TPU=0.2:1;光模块:TPU=1.5:1 🤩架构升级后: 1)scaleup:OCS端口数/TPU=3~10:1(4D-10D torus)‼️ 2)scaleout:光模块:OCS端口数/TPU=1:1;TPU=4:1(1.6T).‼️
📈结论:OCS配比显著大幅提升,out侧光模块配比预计翻倍。持续关注:腾景科技等。
总体总结
主题正文
- 【招商通信】 腾景科技 AI Agent 带动Google网络架构升级,OCS+光模块配比预计提升
- 💻AI Agent MoE架构的通讯模式从传统的All-to-reduce模式转换成All-to-all,3D torus架构网络短板显现,后续预计scaleout侧网络带宽提升+scaleup侧从3D向4-10D逐步升维。
- 网络侧投资权重预计显著上修,OCS+光模块配比提升,建议重点关注。
- 1)scaleup: OCS端口数/TPU=1.5:1(3D torus)
- 2)scaleout:OCS端口数/TPU=0.2:1;
- 1)scaleup:OCS端口数/TPU=3~10:1(4D-10D torus)‼️
- 2)scaleout:光模块:OCS端口数/TPU=1:1;
- 📈结论:OCS配比显著大幅提升,out侧光模块配比预计翻倍。