📑 🤖 🎯核心要点 🔌光互联: 📦定制 ASIC 与封装:联发科观察到 3.5D 集成方案获得更多采用,2.5D 封装已经接近物理极限。 💾存储器架构:SK 海

图片

无图片

正文

📑

🤖

🎯核心要点 🔌光互联: 📦定制 ASIC 与封装:联发科观察到 3.5D 集成方案获得更多采用,2.5D 封装已经接近物理极限。 💾存储器架构:SK 海力士借助 MARS 架构与 HBF 技术,着力解决推理算力容量与 KV 缓存瓶颈。 ⚡电力与散热:单机架功率突破 200kW,加速推动 800V 直流供电、垂直供电方案以及液冷技术落地。 🔍CPO 方面:光互联规模化落地距离现实越来越近。 🖥️一套搭载 64 颗 XPU、支持 CPO 的计算机架完成演示,展现出加速器之间直连光链路的发展潜力。 📶随着单通道 200G 电信号逐步逼近物理极限,光互联的规模化部署将愈发重要,对于定制化 XPU 产品尤其如此。 ✅但凭借可维护性与成本优势,可插拔光器件仍将在横向扩容场景下保持出货量领先地位。 ⚠️封装良率、光纤对准、可靠性依旧是 CPO 商业化落地的核心挑战。 🧩先进封装:行业发展正在超越传统 2.5D 方案。 📐联发科提到部分定制 ASIC 设计已经接近 10 倍光罩尺寸。 💡 📈管理层预计未来 3‑5 年 3.5D 集成的渗透率将持续上行。 🔧联发科同时强调定制化 HBM、专用芯片间互联接口、DTCO 设计协同优化的重要性。 📊随着系统复杂度持续抬升,先进封装、定制 ASIC 设计服务迎来结构性机会。 💾存储器:带宽之外, 📂SK 海力士推出 MARS 解耦内存架构。 ⚡借助共享 KV 缓存访问而非重复计算,该架构可将首 token 生成耗时提升 3‑5 倍。 🔎HBF 目标实现约 HBM 一半的带宽,但容量达到 HBM 的 14 倍,样品预计 2028 年初推出。 🧠推理工作负载将越来越需要融合 HBM、DRAM、NAND 的异构内存架构,存储器应用范围有望跳出传统 GPU 外挂 HBM 的范畴。 🔥电力与散热:成为下一级别的系统层面约束条件。 ❄️6 千瓦级双面冷板、垂直供电、先进微通道冷却方案完成演示,凸显散热压力持续加剧。 🔋向 800V 直流供电转型,能够降低电能转换损耗、提升功率密度。 🖥️与此同时,AMD Helion 智能体 AI 机架架构表明,在 GPU 基础设施之外,CPU 的增量需求同样会得到拉动。 🏗️供电能力、先进冷却、系统集成能力,将会成为越来越关键的差异化竞争要素。

总体总结

主题正文

  1. 📦定制 ASIC 与封装:联发科观察到 3.5D 集成方案获得更多采用,2.5D 封装已经接近物理极限。
  2. ⚡电力与散热:单机架功率突破 200kW,加速推动 800V 直流供电、垂直供电方案以及液冷技术落地。
  3. 🖥️一套搭载 64 颗 XPU、支持 CPO 的计算机架完成演示,展现出加速器之间直连光链路的发展潜力。
  4. 📶随着单通道 200G 电信号逐步逼近物理极限,光互联的规模化部署将愈发重要,对于定制化 XPU 产品尤其如此。
  5. 📈管理层预计未来 3‑5 年 3.5D 集成的渗透率将持续上行。
  6. 📊随着系统复杂度持续抬升,先进封装、定制 ASIC 设计服务迎来结构性机会。
  7. 🔎HBF 目标实现约 HBM 一半的带宽,但容量达到 HBM 的 14 倍,样品预计 2028 年初推出。
  8. 🧠推理工作负载将越来越需要融合 HBM、DRAM、NAND 的异构内存架构,存储器应用范围有望跳出传统 GPU 外挂 HBM 的范畴。