📑 🔍乍看之下，SK 海力士的 CPO 技术路线图似乎有一个方向指向高性能内存技术，另一个方向则指向光通信技术。 🤖然而，实际上人工智能竞赛的重点已经从单个芯片
- 序号：094
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
📑
🔍乍看之下，SK 海力士的 CPO 技术路线图似乎有一个方向指向高性能内存技术，另一个方向则指向光通信技术。 🤖然而，实际上人工智能竞赛的重点已经从单个芯片的性能转向了整个系统数据传输的效率。 📚在过去的几年里，HBM 一直在解决 GPU 接收数据速度不足的问题。 💡通过将多层 DRAM 垂直堆叠并放置在 GPU 旁边，可以实现极高的带宽传输能力。 ⚠️然而，当越来越多的 HBM 堆叠层被放置在每个 GPU 周围时，封装面积、中介层空间、电源供应以及冷却系统都面临着极限挑战。 🖥️与此同时，人工智能集群已经发展到需要使用数千甚至数万个 GPU。 📶无论每个 GPU 的运算速度有多快，如果数据无法在 GPU 和服务器之间高效传输，那么整个系统的带宽能力最终还是会达到极限。 ✨SK 海力士的愿景是将光学互连技术扩展到内存领域。 🔗低延迟、高带宽的本地 HBM 内存将继续位于 GPU 旁边，而光纤则可以将它们连接到更大的共享内存池上。 📦这样就能避免需要将所有内存容量集成在单个 GPU 包中，从而实现在机架级别的水平扩展。 📌投资影响如下： 🔄这并不意味着 HBM 会很快被取代。 📂相反，更有可能出现一种新的内存层次结构。 💾那些经常被访问的数据将保留在本地 HBM 中，而那些较少被访问但体积较大的数据则会被存储在光学连接的存储器池、HBF 或 SSD 中。 📝SK 海力士正在重新定位自己的业务策略。 🔧它不再仅仅专注于销售标准化的内存芯片，而是选择与客户共同设计 HBM 芯片、控制器、高级封装技术以及系统级内存架构。 🤝如果这一规划能够实现，SK 海力士就能增强客户忠诚度，提升产品附加值，并提高其获得长期合同的能力。 🛡️此外，这一策略还能使公司能够积极应对未来内存解耦可能对传统 HBM 业务模式带来的潜在影响。 🔗在供应链层面，长期来看，那些有望获得受益的领域包括硅光子芯片、光学引擎、激光器、光纤耦合技术，以及先进的 2.5D 和 3D 封装技术。 🧪不过，这个概念目前似乎还处于非常早期的阶段 —— 基本上只是一个规划蓝图而已。 💬今天我与一位参与台积电封装业务的人士进行了交谈，他们完全不知道有这个计划的存在。
总体总结
主题正文
- 🤖然而，实际上人工智能竞赛的重点已经从单个芯片的性能转向了整个系统数据传输的效率。
- ⚠️然而，当越来越多的 HBM 堆叠层被放置在每个 GPU 周围时，封装面积、中介层空间、电源供应以及冷却系统都面临着极限挑战。
- 📶无论每个 GPU 的运算速度有多快，如果数据无法在 GPU 和服务器之间高效传输，那么整个系统的带宽能力最终还是会达到极限。
- 📌投资影响如下：
- 💾那些经常被访问的数据将保留在本地 HBM 中，而那些较少被访问但体积较大的数据则会被存储在光学连接的存储器池、HBF 或 SSD 中。
- 🔧它不再仅仅专注于销售标准化的内存芯片，而是选择与客户共同设计 HBM 芯片、控制器、高级封装技术以及系统级内存架构。
- 🛡️此外，这一策略还能使公司能够积极应对未来内存解耦可能对传统 HBM 业务模式带来的潜在影响。
- 🔗在供应链层面，长期来看，那些有望获得受益的领域包括硅光子芯片、光学引擎、激光器、光纤耦合技术，以及先进的 2.5D 和 3D 封装技术。