- 由于全球DRAM产能制约,英伟达将Vera Rubin的SoCAMM2模块从192GB降至96GB,使每机架容量减少约50%,但需求总量不变;同时预计使用C

图片

无图片

正文

花旗(Citi)针对SemiAnalysis关于英伟达减少Vera Rubin SoCAMM2容量的报道,给出了专业解读。核心结论是: 同时,为了应对大模型推理中日益增长的KV Cache容量需求,英伟达将引入CMX(Context Memory eXtension)技术作为“G3.5内存”来补充,从而带动NAND需求增长。

根据SemiAnalysis(6月4-5日)报道,英伟达将每台Vera Rubin NVL 72服务器的总SoCAMM2 DRAM容量从55TB降至28TB,降幅近50%。原因在于全球DRAM产能约束,目前内存供应商只能满足约60%的SoCAMM2总需求。英伟达原本计划使用192GB的SoCAMM2模块,现改为96GB模块。

花旗认为,尽管单模块容量下降,但英伟达为满足AI推理对内存的刚性需求,不会减少总采购量。因此, 只是单模块容量规格降低。这一调整反映了英伟达在供应紧张下的务实策略——优先保障产能分配,而非追求单点容量极限。

随着大模型上下文窗口持续扩大,KV Cache对高带宽内存的需求激增。花旗指出,英伟达将使用CMX(Context Memory eXtension)技术作为“G3.5内存”来补充SoCAMM2。CMX本质上是一种基于NAND闪存的扩展内存,通过成本更低的存储颗粒提供大容量缓存能力。 而传统DRAM的短缺反而可能加速NAND替代部分内存角色的进程。

本报告并未对英伟达或相关内存公司给出具体估值与评级,而是聚焦于产业变化对供应链的影响。但花旗的分析暗示: :产品规格调整不影响长期AI竞争力,但短期可能引发市场对性能降级的疑虑,需关注后续客户接受度。 (如三星、SK海力士、美光):当前产能紧张反而有助于价格维持高位,但60%的供应缺口意味着英伟达可能会加速投资或寻找替代方案。 (如三星、SK海力士、西部数据、铠侠):CMX的采用将打开新的增长空间,利好NAND长期需求。

:若DRAM产能快速扩张,英伟达可能恢复原定192GB模块计划,导致NAND需求预期落空。 :若大模型训练/推理规模不及预期,SoCAMM2总需求可能同步下调。 :NAND闪存的寿命和延迟问题可能限制其在关键推理场景中的应用,导致需求落地晚于预期。 :AMD、Intel等竞争对手可能利用英伟达这一调整抢占部分AI推理市场份额。

总体总结

主题正文

    • 由于全球DRAM产能制约,英伟达将Vera Rubin的SoCAMM2模块从192GB降至96GB,使每机架容量减少约50%,但需求总量不变;
  1. 同时预计使用CMX(上下文内存扩展)技术作为G3.5内存来满足KV缓存需求,进而推升NAND需求。
  2. 核心结论是: 同时,为了应对大模型推理中日益增长的KV Cache容量需求,英伟达将引入CMX(Context Memory eXtension)技术作为“G3.5内存”来补充,从而带动NAND需求增长。
  3. 根据SemiAnalysis(6月4-5日)报道,英伟达将每台Vera Rubin NVL 72服务器的总SoCAMM2 DRAM容量从55TB降至28TB,降幅近50%。
  4. 原因在于全球DRAM产能约束,目前内存供应商只能满足约60%的SoCAMM2总需求。
  5. 花旗指出,英伟达将使用CMX(Context Memory eXtension)技术作为“G3.5内存”来补充SoCAMM2。
  6. :产品规格调整不影响长期AI竞争力,但短期可能引发市场对性能降级的疑虑,需关注后续客户接受度。
  7. (如三星、SK海力士、美光):当前产能紧张反而有助于价格维持高位,但60%的供应缺口意味着英伟达可能会加速投资或寻找替代方案。