🙎 LPDDR 与 SoCAMM 是本周最容易被误判的赛道。Vera Rubin NVL72 机型的 CPU 端内存配置下调，表面来看像是市场需求走弱，但多方分
- 序号：482
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
🙎 LPDDR 与 SoCAMM 是本周最容易被误判的赛道。Vera Rubin NVL72 机型的 CPU 端内存配置下调，表面来看像是市场需求走弱，但多方分析判断，这一变化的核心原因是供应不足与成本受限，并非 AI 推理业务不再需要内存支撑。 🙏 行业真正的变化是推理数据状态被重新划分层级，高频热数据与中间运行数据保留在 HBM4 中，可中转的数据归入 CPU 端 LPDDR5X 与 SoCAMM，冷数据以及溢出数据则下沉至 NAND、eSSD、CMX、STX 等存储介质中。 🙐 GB300 NVL72 机型搭载 20.7TB 的 HBM3e，带宽达到 576TB/s；Vera Rubin NVL72 机型搭载同等容量的 HBM4，带宽提升至 1580TB/s。由此可见，HBM 的容量并未缩减，带宽实现大幅提升，高频热数据依旧依托 GPU 侧的 HBM 运行。 🙑 单颗 Vera CPU 搭配 8 个 SoCAMM 模组，单台服务器机架搭载 36 颗 Vera CPU，CPU 端内存成为 AI 服务器机架的第二大内存资源池。 🙒 原本 192GB 的模组被替换为 96GB 模组，单台机架 CPU 侧内存容量从 54TB 降至 28TB，此次配置下调，是企业应对成本与供应问题的举措，并不代表整体市场需求萎缩。 🙓 受配置调整影响，单台服务器机架的整体成本从 760 万美元降至 680 万美元，下游企业已经开始通过调整硬件配置，缓解内存产品涨价带来的压力。 🙔 完整的 Rubin 服务器机架总计消耗 55TB 的 LPDDR，单颗 Vera CPU 最高可搭载 1.5TB 的 LPDDR5X，LPDDR5X 的供应情况，会直接影响 AI CPU 以及服务器机架级推理业务的拓展速度。 🙕 从投资角度分析，不能简单将 SoCAMM 配置减半视作利空。插槽式模组保留了后续硬件升级的空间，96GB 配置更像是行业发展初期受供应限制形成的底线标准。 🙖 如果后续 LPDDR5X 供应恢复充足，云服务公司持续为推理性能升级买单，相关产品配置大概率会回归高容量方案；反之，若文本处理成本持续走高，96GB 配置有可能长期成为行业主流标准，AI 服务器机架的内存价值也会更多向 HBM 和 eSSD 转移。 🙗 AI CPU 的发展趋势，也进一步推动 DRAM 需求向外延伸。摩根士丹利分析指出，在智能体 AI 应用场景下，CPU 与 GPU 的配比，会从传统训练场景下的 1 比 8，转变为 1 比 1 甚至更高比例。 🙘 单个智能体处理文本产生的资源消耗，可达单轮普通推理的 1000 倍。这一行业框架说明，AI 发展并非单纯依靠堆叠 GPU 数量，还需要 CPU 完成调度工作，依托统一内存架构，同时依靠边缘端、机架端内存承载超长文本与多步骤任务。 🙙 终端设备领域也呈现相同发展趋势，英伟达 AI PC 具备每秒 1 千万亿次 FP4 精度 AI 运算能力，标配 128GB 统一内存，统一内存的应用场景，正从数据中心逐步向本地推理场景延伸。 🙚 LPDDR 与 SoCAMM 板块的风险，相比 HBM 更加直接地体现在下游物料成本上。AI 服务器普遍将内存从 128GB 更换为 64GB 或 96GB，足以证明客户不会无条件接受高价内存产品。 🙛 倘若云服务公司大规模采用更激进的 KV 缓存压缩、分层缓存、内存池化、模型路由等技术，降低 CPU 端内存使用量，SoCAMM 的价格上涨空间会弱于 HBM。该品类更多是承接需求外溢的载体，并非不可替代的核心瓶颈。
总体总结
主题正文
- Vera Rubin NVL72 机型的 CPU 端内存配置下调，表面来看像是市场需求走弱，但多方分析判断，这一变化的核心原因是供应不足与成本受限，并非 AI 推理业务不再需要内存支撑。
- 🙏 行业真正的变化是推理数据状态被重新划分层级，高频热数据与中间运行数据保留在 HBM4 中，可中转的数据归入 CPU 端 LPDDR5X 与 SoCAMM，冷数据以及溢出数据则下沉至 NAND、eSSD、CMX、STX 等存储介质中。
- 🙒 原本 192GB 的模组被替换为 96GB 模组，单台机架 CPU 侧内存容量从 54TB 降至 28TB，此次配置下调，是企业应对成本与供应问题的举措，并不代表整体市场需求萎缩。
- 🙓 受配置调整影响，单台服务器机架的整体成本从 760 万美元降至 680 万美元，下游企业已经开始通过调整硬件配置，缓解内存产品涨价带来的压力。
- 🙔 完整的 Rubin 服务器机架总计消耗 55TB 的 LPDDR，单颗 Vera CPU 最高可搭载 1.5TB 的 LPDDR5X，LPDDR5X 的供应情况，会直接影响 AI CPU 以及服务器机架级推理业务的拓展速度。
- 反之，若文本处理成本持续走高，96GB 配置有可能长期成为行业主流标准，AI 服务器机架的内存价值也会更多向 HBM 和 eSSD 转移。
- 🙙 终端设备领域也呈现相同发展趋势，英伟达 AI PC 具备每秒 1 千万亿次 FP4 精度 AI 运算能力，标配 128GB 统一内存，统一内存的应用场景，正从数据中心逐步向本地推理场景延伸。
- 🙛 倘若云服务公司大规模采用更激进的 KV 缓存压缩、分层缓存、内存池化、模型路由等技术，降低 CPU 端内存使用量，SoCAMM 的价格上涨空间会弱于 HBM。