📑 🔮 📈立方体密度 (GB) 每代都在上 首发公众号:思维纪要社 升 📈带宽 (TB/s) 随着每个节点扩展 📉能效 (pJ/bit) 下降‑用更少的功率做更
- 序号:422
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
📑 🔮 📈立方体密度 (GB) 每代都在上 首发公众号:思维纪要社 升 📈带宽 (TB/s) 随着每个节点扩展 📉能效 (pJ/bit) 下降‑用更少的功率做更多事。 💡创新杠杆:颠覆性工艺与设计、下一代封装、通过先进 D2D PHY 的 GPU 卸载,以及针对客户的定制功能。 📝 🧐这就是为什么每个加速器的内存内容持续复合增长,以及为什么。 🔧 📊相关趋势:立方体密度(GB)持续走高,立方体带宽(TB/s)稳步提升,能量效率(pJ/bit)持续下行。 ✨后续内存产品将迎来重大转折,包含颠覆性工艺与设计创新、下一代封装技术能力、基于先进 D2D PHY 实现 GPU 卸载、定制化功能。 ⚠️ 💭内存技术已经成为限制 AI 系统性能的关键因素。 📈图表数据:2017‑2027 年归一化性能,TFLOPS 算力曲线约每两年翻 3 倍,代表产品包含 TPU v3、A100、TPU v4、H100、MI300X、B100、TPU v5、B200、R200;HBM 带宽曲线增速约小于每两年翻 2 倍,代表产品 HBM2E、HBM3、HBM3E、HBM4。 🔄架构演进方向:2.5D 附加内存,2.5D 高级内存,内存内处理。
总体总结
主题正文
- 📉能效 (pJ/bit) 下降‑用更少的功率做更多事。
- 💡创新杠杆:颠覆性工艺与设计、下一代封装、通过先进 D2D PHY 的 GPU 卸载,以及针对客户的定制功能。
- 🧐这就是为什么每个加速器的内存内容持续复合增长,以及为什么。
- 📊相关趋势:立方体密度(GB)持续走高,立方体带宽(TB/s)稳步提升,能量效率(pJ/bit)持续下行。
- ✨后续内存产品将迎来重大转折,包含颠覆性工艺与设计创新、下一代封装技术能力、基于先进 D2D PHY 实现 GPU 卸载、定制化功能。
- 📈图表数据:2017‑2027 年归一化性能,TFLOPS 算力曲线约每两年翻 3 倍,代表产品包含 TPU v3、A100、TPU v4、H100、MI300X、B100、TPU v5、B200、R200;
- HBM 带宽曲线增速约小于每两年翻 2 倍,代表产品 HBM2E、HBM3、HBM3E、HBM4。
- 🔄架构演进方向:2.5D 附加内存,2.5D 高级内存,内存内处理。