- AI基础设施正向机架级协同优化转变,为光互连、先进封装、内存架构和供电技术带来机遇。报告分析了OCP峰会的四大主线:1)CPO(共封装光学)日益接近规模化部
- 序号:328
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
- AI基础设施正向机架级协同优化转变,为光互连、先进封装、内存架构和供电技术带来机遇。报告分析了OCP峰会的四大主线:1)CPO(共封装光学)日益接近规模化部署,64-XPU CPO演示展示了加速器直连光链路的潜力,但可插拔光模块在扩展场景中仍将保持成本优势;2)先进封装正从2.5D向3.5D演进,定制ASIC尺寸接近10倍光罩尺寸,3.5D集成可实现约10倍的芯片间能效提升;3)内存容量与带宽同等重要,SK海力士MARS架构可实现3-5倍TTFT提升,HBF目标容量为HBM的14倍;4)智能体AI推理需求正推动异构内存架构(HBM+DRAM+NAND)扩展内存内容。
本报告聚焦于OCP(开放计算项目)峰会所揭示的AI基础设施技术演进方向,指出智能体AI(Agentic AI)的崛起正推动基础设施从芯片级优化转向。报告涵盖四大技术主线: :从概念走向现实,64颗XPU的CPO演示验证了机架内直连光链路的可行性 :从2.5D向3.5D演进,定制ASIC逼近10倍光罩尺寸极限 :容量与带宽同等重要,异构内存(HBM+DRAM+NAND)成为新趋势 :机架级功率密度提升推动电源架构革新
一、CPO:光互连的尺度扩展(Scale-Up)
64颗XPU的CPO-enabled计算机架已完成演示,验证了加速器间直连光链路的工程可行性 随着,光互连在尺度扩展(Scale-Up)场景中的重要性与日俱增 对于定制化XPU而言,光互连几乎是必经之路
:CPO将逐步占据主导,尤其在定制化加速器机架内部 :——其在可维护性(serviceability)和成本方面的优势难以被CPO完全替代 :封装良率、光纤对准精度、长期可靠性仍是CPO大规模商用的关键瓶颈 二、先进封装:从2.5D到3.5D的跃迁
定制ASIC设计规模正在逼近 相比传统2.5D互连可实现约 管理层预计3.5D技术将在未来
定制HBM(custom HBM) 专有芯片间互连(proprietary die-to-die interconnects) DTCO(设计-工艺协同优化) 随着系统复杂度上升,先进封装和定制ASIC设计服务市场存在。 三、内存架构:容量、带宽与异构化
分离式内存架构(Disaggregated Memory Architecture) 通过而非重新计算,实现 这对于长上下文推理场景意义重大
指标HBF对比HBM 带宽 约为HBM的 容量 为HBM的 样品时间 预计 推理工作负载(Inference Workloads)正日益需要的异构内存组合,内存市场规模有望超越传统"GPU配套HBM"的简单框架。 四、行业观点 摩根士丹利对,认为本轮AI基础设施建设不仅仅是GPU或加速器的故事,而是一个涵盖光互连、封装、内存、供电等多个环节的系统性机会。
本报告为,并非针对单一公司的首次覆盖,因此未给出具体的目标价或个股评级。但摩根士丹利对大中华区半导体板块的。
技术方向潜在受益环节 CPO光互连 光模块、光器件、封装设备 先进封装/3.5D 封装测试、定制ASIC设计服务 异构内存 HBM、HBF、定制内存方案
:封装良率、光纤对准、长期可靠性问题可能导致大规模商用时间推迟 :3.5D封装、HBF等仍处于早期阶段,技术路线可能发生调整 :可插拔光模块在服务性和成本上的优势可能延长其市场份额占比 :智能体AI推理需求的实际增长速度若不及预期,将影响相关供应链的业绩兑现 :大中华区半导体产业链面临出口管制等地缘因素影响 :相关供应链公司高度依赖少数大型云厂商订单,存在客户集中风险 :行业更新报告(Update) :大中华区科技半导体板块 :Daniel Yen, CFA / Charlie Chan / Daisy Dai, CFA / Lucas Wang / Henry Zhao / Ethan Jia
总体总结
主题正文
- 报告分析了OCP峰会的四大主线:1)CPO(共封装光学)日益接近规模化部署,64-XPU CPO演示展示了加速器直连光链路的潜力,但可插拔光模块在扩展场景中仍将保持成本优势;
- 2)先进封装正从2.5D向3.5D演进,定制ASIC尺寸接近10倍光罩尺寸,3.5D集成可实现约10倍的芯片间能效提升;
- 3)内存容量与带宽同等重要,SK海力士MARS架构可实现3-5倍TTFT提升,HBF目标容量为HBM的14倍;
- 本报告聚焦于OCP(开放计算项目)峰会所揭示的AI基础设施技术演进方向,指出智能体AI(Agentic AI)的崛起正推动基础设施从芯片级优化转向。
- 摩根士丹利对,认为本轮AI基础设施建设不仅仅是GPU或加速器的故事,而是一个涵盖光互连、封装、内存、供电等多个环节的系统性机会。
- :智能体AI推理需求的实际增长速度若不及预期,将影响相关供应链的业绩兑现
- :相关供应链公司高度依赖少数大型云厂商订单,存在客户集中风险
- :Daniel Yen, CFA / Charlie Chan / Daisy Dai, CFA / Lucas Wang / Henry Zhao / Ethan Jia