📌 🔹英伟达(NVIDIA)等算力厂商正面临长达数年的存储器短缺,由于新建晶圆厂耗时过长,产业链正主动降低硬件存储规格来保交付。以英伟达的 Rubin 架构为例
- 序号:113
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
📌
🔹英伟达(NVIDIA)等算力厂商正面临长达数年的存储器短缺,由于新建晶圆厂耗时过长,产业链正主动降低硬件存储规格来保交付。以英伟达的 Rubin 架构为例,每机架 LPDDR5 内存配置从原定的 54TB 砍至 28TB,单加速器 HBM4 配置也从 12 层堆叠的 288GB 降至 8 层堆叠的 192GB。摩根士丹利指出,这种主动降配是产能吃紧下的权宜之计,仅为确保出货规模,。 🔹单个存储层级缩容会把访问压力直接转移给其他层级。当 HBM 与主内存配置降低后,长文本和智能体任务产生的庞大 KV 缓存被转移至 NAND 闪存与 CXL 内存池,倒逼网络互连与存储扩展。与此同时,推理任务正被拆解为算力密集的预填充与高带宽密集的解码两部分,云厂商开始将大算力芯片与 Cerebras、Groq 等具备高带宽 SRAM 的架构混搭,以此压低每代币的生成成本。 🔹为进一步突破带宽瓶颈,英伟达推出定制 HBM4e 方案,,但这也意味着接口控制权正从传统存储厂流向算力芯片设计方。未来存储景气度不会因硬件降配而逆转,被压制的需求将在供需缓解后迅速回补。接下来主要观察数据中心电力与机房交付进度;如果数据中心基础设施建设放缓,存储器市场可能会出现阶段性供需扰动。
总体总结
主题正文
- 🔹英伟达(NVIDIA)等算力厂商正面临长达数年的存储器短缺,由于新建晶圆厂耗时过长,产业链正主动降低硬件存储规格来保交付。
- 以英伟达的 Rubin 架构为例,每机架 LPDDR5 内存配置从原定的 54TB 砍至 28TB,单加速器 HBM4 配置也从 12 层堆叠的 288GB 降至 8 层堆叠的 192GB。
- 摩根士丹利指出,这种主动降配是产能吃紧下的权宜之计,仅为确保出货规模,。
- 当 HBM 与主内存配置降低后,长文本和智能体任务产生的庞大 KV 缓存被转移至 NAND 闪存与 CXL 内存池,倒逼网络互连与存储扩展。
- 与此同时,推理任务正被拆解为算力密集的预填充与高带宽密集的解码两部分,云厂商开始将大算力芯片与 Cerebras、Groq 等具备高带宽 SRAM 的架构混搭,以此压低每代币的生成成本。
- 🔹为进一步突破带宽瓶颈,英伟达推出定制 HBM4e 方案,,但这也意味着接口控制权正从传统存储厂流向算力芯片设计方。
- 未来存储景气度不会因硬件降配而逆转,被压制的需求将在供需缓解后迅速回补。
- 如果数据中心基础设施建设放缓,存储器市场可能会出现阶段性供需扰动。