- 高盛看好高带宽闪存(HBF)技术,认为其有望缓解AI推理场景日益严峻的"内存墙"瓶颈。到2030年,在GPU采用率15%-50%的假设下,HBF潜在TAM约
- 序号:078
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
- 高盛看好高带宽闪存(HBF)技术,认为其有望缓解AI推理场景日益严峻的"内存墙"瓶颈。到2030年,在GPU采用率15%-50%的假设下,HBF潜在TAM约400-1500亿美元。HBF可通过提升GPU利用率使推理吞吐量综合成本降低约30%,为超大规模厂商节省数千亿美元CapEx。乐观情景下(2028年末50% XPU采用率),HBF bits将占全球NAND bits出货量的约4%,但因die尺寸较大将消耗约9%的NAND晶圆产能。主要挑战包括延迟、耐久度、散热及制造资源密集度。受益标的:SanDisk(买入,HBF技术领先+铠侠合作低资本密度)、SK Hynix(买入,HBM与HBF双线领先)、三星电子(买入,NAND产能最大)、铠侠(买入,XL-Flash方案);Micron评级中性(侧重DRAM/HBM,HBF敞口低)。XPU厂商(英伟达、博通、AMD等)因HBF提升GPU利用率将面临出货量下修压力。
高盛对**高带宽闪存(High-Bandwidth Flash, HBF)技术持建设性看法,认为其有望成为缓解AI推理阶段"内存墙"瓶颈的关键解决方案。报告核心结论包括: :在GPU/XPU采用率15%-50%的假设下,到2030年HBF潜在TAM约 :HBF可提升GPU利用率,使推理吞吐量综合成本降低,为超大规模数据中心厂商节省数千亿美元CapEx :乐观情景下(2028年末50% XPU采用率),HBF bits占全球NAND bits出货量约,但因SLC结构与较大die尺寸,消耗约9%**的NAND晶圆产能 :SanDisk、SK Hynix、三星、铠侠(HBF/XL-Flash);XPU厂商(英伟达、博通、AMD)面临中长期出货量下修压力
- 为什么需要HBF?——AI推理时代的"内存墙"问题 随着AI工作负载从转向,上下文窗口(context window)正呈指数级增长——从GPT-3的2K tokens一路扩展到Llama 4 Scout的。这导致: :更大上下文窗口使KV缓存需求急剧上升,内存瓶颈从"纯带宽受限"转变为"带宽+容量双重受限" :当前GPU架构通常仅配备约192GB HBM,远不足以承载10M级上下文 :为弥补内存不足,运营商被迫部署更多GPU,造成计算资源严重浪费 HBF作为一种,通过TSV(硅通孔)和UCIe chiplet互连将高密度3D NAND闪存堆叠到AI加速器封装内,恰好填补HBM与SSD之间的中间层空白。
- HBF的技术优势 指标HBM4HBF 容量 36GB/stack
顺序读取带宽 2.0-3.3 TB/s 0.4-3.0 TB/s 延迟 ~20ns ~10μs 单读粒度 32 bytes 4096 bytes 适用场景 写密集型
: 在1M token上下文下,HBF可使批量大小提升,吞吐量提升 在10M token下,批量大小可提升,吞吐量提升 能效比提升(每瓦吞吐量) 即可匹配8颗纯HBM XPU的聚合服务吞吐量 3. H3混合架构:HBM+HBF的协同 SK Hynix提出的采用HBM-HBF混合配置: :HBF堆栈通过HBM base die菊花链连接,不占用GPU有限的物理边缘连接 :低成本HBF存储海量静态数据结构(模型权重、预计算KV缓存),将宝贵的HBM容量专用于延迟敏感的实时解码 :通过释放静态内存扩展并发批量容量,实现每瓦吞吐量提升2.7倍 4. 商业化前景与TAM (2028年末50% GPU采用率):HBF TAM约 (2030年末15% GPU采用率,$1.75/GB定价):HBF TAM约 预计商业样品将于开始出货 5. HBF面临的关键挑战 :HBM4E正在采样中,带宽至少高出50%;写操作会显著降低HBF有效带宽 :KV缓存偶尔的写操作可能导致HBF有效带宽不可预测 :HBF cube功耗约160W(约为HBM3E的4倍),可能逼近加速器自身的功耗限制 :TSV、混合键合、先进封装等技术使HBF制造成本相比传统NAND高出 6. 替代技术方案 (铠侠):基于BiCS Flash 3D NAND,无需TSV,采用标准PCIe/NVMe/CXL总线,写入性能和成本可能更优 (三星):使用TSV连接4或8层V-NAND die堆叠,瞄准设备端AI市场 (三星):将内存堆叠在AI加速器顶部(而非旁边),面向数据中心
高盛在报告中对相关标的给出明确评级与目标价(截至2026年10月9日): 公司代码评级12个月目标价当前价上涨空间
SNDK
$2,200 $1,607 +36.9%
000660.KS
₩3,500,000 ₩1,681,000 +108.2%
005930.KS
₩500,000 ₩262,000 +90.8%
285A.T
¥38,667 ¥17,505 +120.9%
NVDA
$300 $229 +30.7%
AMD
$700 $611 +14.5%
AVGO
$540 $363 +48.9%
MU
$1,250 $1,027 +21.7% : :与SK Hynix联合开发HBF技术领先;与铠侠的制造合作降低资本密集度 :HBM领导力+先进NAND技术+先进封装经验三位一体 :全球最大NAND产能,IDM垂直整合优势,zHBF商标已申请 :聚焦HBM/DRAM,未参与HBF联盟,DRAM绿地产能优先 :HBF降低加速器需求,但英伟达凭借全栈控制力有望优化设计
:技术仍处早期系统级开发阶段,从样品到大规模量产存在不确定性 :HBM4E及后续版本带宽持续提升,可能压缩HBF的相对优势 :写操作频率的不确定性可能使HBF有效带宽难以预测 :HBF功耗较高,可能在数据中心散热设计中遭遇瓶颈 :XL-Flash、zNAND-O等替代方案可能分流市场 :若AI投资周期放缓,HBF采用率将受到压制 :HBF大量消耗NAND晶圆产能(约9%)可能影响整体NAND市场供需格局
总体总结
主题正文
- 乐观情景下(2028年末50% XPU采用率),HBF bits将占全球NAND bits出货量的约4%,但因die尺寸较大将消耗约9%的NAND晶圆产能。
- 受益标的:SanDisk(买入,HBF技术领先+铠侠合作低资本密度)、SK Hynix(买入,HBM与HBF双线领先)、三星电子(买入,NAND产能最大)、铠侠(买入,XL-Flash方案);
- 高盛对**高带宽闪存(High-Bandwidth Flash, HBF)**技术持建设性看法,认为其有望成为缓解AI推理阶段"内存墙"瓶颈的关键解决方案。
- :乐观情景下(2028年末50% XPU采用率),HBF bits占全球NAND bits出货量约,但因SLC结构与较大die尺寸,消耗约**9%**的NAND晶圆产能
- 随着AI工作负载从转向,上下文窗口(context window)正呈指数级增长——从GPT-3的2K tokens一路扩展到Llama 4 Scout的。
- HBF作为一种,通过TSV(硅通孔)和UCIe chiplet互连将高密度3D NAND闪存堆叠到AI加速器封装内,恰好填补HBM与SSD之间的中间层空白。
- :低成本HBF存储海量静态数据结构(模型权重、预计算KV缓存),将宝贵的HBM容量专用于延迟敏感的实时解码
- :HBF大量消耗NAND晶圆产能(约9%)可能影响整体NAND市场供需格局