📌SemiAnalysis 一个讨论会纪要:HBF 高带宽闪存 目前还无法判断 HBF 相对 HBM 的成本溢价未来会收缩多少,现有数据均为厂商宣传口径:闪迪称

图片

无图片

正文

📌SemiAnalysis 一个讨论会纪要:HBF 高带宽闪存

目前还无法判断 HBF 相对 HBM 的成本溢价未来会收缩多少,现有数据均为厂商宣传口径:闪迪称单位比特成本约为 HBM 的 1/8;Hot Chips 会议发言给出的数值是每 GB 成本约为 SSD 的 10 倍。 📉良率、测试、控制器摊销这类成本会随规模改善。 TSV 硅通孔、堆叠、堆叠后全栈测试、pSLC 高速 NAND 运行模式属于结构性刚性成本,无法消除,类比 HBM 永远不可能做到普通 DRAM 的低价。 最大变量是耐久度:擦写寿命规格尚未公布;如果单元磨损快于预期,厂商必须配置冗余容量,会进一步抬升成本。 📎应用场景:HBF 不是 HBM 替代品 适用场景非常窄:AI 推理,小 batch、长上下文 MoE 混合专家模型。 📐OCP 规范标称带宽上限 3TB/s;已经流片完成的实际芯片目标仅 1.6TB/s,性能对标 HBM3E,对比即将落地的 HBM4(2‑3TB/s)已经落后一代。 ✅优势:顺序读取(加载模型权重);短板:小规模随机读性能很差。 最佳落地:少量 GPU 的本地 / 私有公司部署,核心诉求是容量,把完整模型装进单机盒子;超大规模云厂商依旧会继续采用 HBM 资源池化方案。 🌡散热与可靠性:尚未解决的硬问题 闪存高温下衰减加速,但闪迪给出的架构方案把 HBF 放置在高热 GPU 旁边,闪存原本就不是为这种热环境设计。 📋现有缓解方案均未经过大规模验证: 🔧通过 UCIe 芯粒接口改造,物理上把 HBF 和 GPU 分开。 ⏱85℃环境下启用每日刷新机制,6 年周期内每天对数据全盘重写;超大规模云厂商很难接受该运维模式。 🚫行业暂无公开热规格,没有成熟落地方案。 制造环节 🔧闪迪 / 铠侠拥有深厚 3D NAND 积累(BiCS8 已经实现闪存底层键合逻辑晶圆,是很好技术基础),但从未大规模量产 HBM。 🤝SK 海力士参与联盟至关重要,补齐 HBM 堆叠、测试工艺 know‑how;整套工艺还没有经过大规模量产验证。 📊行业大图景 🔄内存市场正在从标准化大宗商品,走向分层、专用化市场。 📈2030 年预计 60% DRAM 比特用于 HBM 与服务器(2020 年仅 1/3)。 💸内存在云厂商资本开支占比从 8% 飙升至今年 30%。 📉NAND / 闪迪供给紧张局面预计延续至 2027‑2028;HBF 属于期权级变量,既可能进一步加剧供给紧张,也可能后续缓和供需。 📈Tema DISK ETF 配置上超配 NAND(闪迪、铠侠),押注上述逻辑。

总体总结

主题正文 纪要:HBF 高带宽闪存

目前还无法判断 HBF 相对 HBM 的成本溢价未来会收缩多少,现有数据均为厂商宣传口径:闪迪称单位比特成本约为 HBM 的 1/8;Hot Chips 会议发言给出的数值是每 GB 成本约为 SSD 的 10 倍。 📉良率、测试、控制器摊销这类成本会随规模改善。 TSV 硅通孔、堆叠、堆叠后全栈测试、pSLC 高速 NAND 运行模式属于结构性刚性成本,无法消除,类比 HBM 永远不可能做到普通 DRAM 的低价。 最大变量是耐久度:擦写寿命规格尚未公布;如果单元磨损快于预期,厂商必须配置冗余容量,会进一步抬升成本。 📎应用场景:HBF 不是 HBM 替代品 适用场景非常窄:AI 推理,小 batch、长上下文 MoE 混合专家模型。 📐OCP 规范标称带宽上限 3TB/s;已经流片完成的实际芯片目标仅 1.6TB/s,性能对标 HBM3E,对比即将落地的 HBM4(2‑3TB/s)已经落后一代。 ✅优势:顺序读取(加载模型权重);短板:小规模随机读性能很差。 最佳落地:少量 GPU 的本地 / 私有公司部署,核心诉求是容量,把完整模型装进单机盒子;超大规模云厂商依旧会继续采用 HBM 资源池化方案。 🌡散热与可靠性:尚未解决的硬问题 闪存高温下衰减加速,但闪迪给出的架构方案把 HBF 放置在高热 GPU 旁边,闪存原本就不是为这种热环境设计。 📋现有缓解方案均未经过大规模验证: 🔧通过 UCIe 芯粒接口改造,物理上把 HBF 和 GPU 分开。 ⏱85℃环境下启用每日刷新机制,6 年周期内每天对数据全盘重写;超大规模云厂商很难接受该运维模式。 🚫行业暂无公开热规格,没有成熟落地方案。 制造环节 🔧闪迪 / 铠侠拥有深厚 3D NAND 积累(BiCS8 已经实现闪存底层键合逻辑晶圆,是很好技术基础),但从未大规模量产 HBM。 🤝SK 海力士参与联盟至关重要,补齐 HBM 堆叠、测试工艺 know‑how;整套工艺还没有经过大规模量产验证。 📊行业大图景 🔄内存市场正在从标准化大宗商品,走向分层、专用化市场。 📈2030 年预计 60% DRAM 比特用于 HBM 与服务器(2020 年仅 1/3)。 💸内存在云厂商资本开支占比从 8% 飙升至今年 30%。 📉NAND / 闪迪供给紧张局面预计延续至 2027‑2028;HBF 属于期权级变量,既可能进一步加剧供给紧张,也可能后续缓和供需。 📈Tema DISK ETF 配置上超配 NAND(闪迪、铠侠),押注上述逻辑。