📝 📌正当市场认为 Rubin CPX 已经被英伟达从产品蓝图当中移除的时候,我的最新产业调研显示,英伟达已经重启 Rubin CPX,预计从 2027 年第一

图片

无图片

正文

📝

📌正当市场认为 Rubin CPX 已经被英伟达从产品蓝图当中移除的时候,我的最新产业调研显示,英伟达已经重启 Rubin CPX,预计从 2027 年第一季度开始生产。 📌对比旧版本,重启之后的 Rubin CPX 拥有更强的预填充(prefill)性能,GPU 规格和机柜架构也出现明显改动,足以证明英伟达高度重视 prefill 方案。 🔑 📌1.Rubin CPX GPU 规格 📌CPX 算力接近 Rubin,单颗 GPU 最高功耗同样为 2300 瓦。 📌CPX 存储器改为 168GB HBM4,低于 Rubin 的 288GB HBM4,但高于旧版 CPX 的 128GB GDDR7。 📌2. 机柜设计 📌新版 CPX 采用独立的 MGX ETL 机柜,不再像旧版那样和 Rubin 共用机柜。 📌客户可以根据需求配置 64、128、192 或者 256 颗 CPX。 📌在 CPX 机柜当中,每 64 颗 CPX 组成一个机柜模组,每一个机柜模组配置 8 个运算托盘,每个托盘搭载 8 颗 CPX,同时搭配 1 个交换机托盘。 📌3. 纵向扩展与横向扩展 📌NVLink 仅用于同一个托盘内部 8 颗 CPX GPU 的纵向扩展,每颗 CPX 的 NVLink 带宽为 1‑1.5TB/s,对比 Rubin 单颗 3.6TB/s。 📌同一个机柜模组内部的托盘之间,通过 Spectrum‑6 以太网(全铜 L1)完成横向扩展。 📌跨机柜模组的时候,各个模组的 Spectrum‑6 通过 OSFP 光纤完成横向扩展。 📌4. 运作方式 📌CPX 需要和 Vera Rubin NVL72 搭配使用,英伟达建议 CPX 与 Rubin 的配比为 1 比 1。 📌CPX 负责预填充(prefill)并且建立 KV 缓存,再经由以太网 RDMA 传输给 Rubin 执行解码生成(decode)。 📌5. 产品定位:长上下文 prefill 场景下性价比最高的方案 📌当前 AI 推理工作负载当中,超过一半来自处理输入内容(context)并且建立对应的 KV 缓存,因此 CPX 依靠部署灵活性与更低成本承接 prefill 工作。 📌每个运算托盘搭载 8 颗 CPX,合计拥有约 1.34TB HBM4,足以支撑绝大多数长上下文 prefill 以及 KV 缓存的搭建需求。

总体总结

主题正文

  1. 📌正当市场认为 Rubin CPX 已经被英伟达从产品蓝图当中移除的时候,我的最新产业调研显示,英伟达已经重启 Rubin CPX,预计从 2027 年第一季度开始生产。
  2. 📌对比旧版本,重启之后的 Rubin CPX 拥有更强的预填充(prefill)性能,GPU 规格和机柜架构也出现明显改动,足以证明英伟达高度重视 prefill 方案。
  3. 📌CPX 存储器改为 168GB HBM4,低于 Rubin 的 288GB HBM4,但高于旧版 CPX 的 128GB GDDR7。
  4. 📌在 CPX 机柜当中,每 64 颗 CPX 组成一个机柜模组,每一个机柜模组配置 8 个运算托盘,每个托盘搭载 8 颗 CPX,同时搭配 1 个交换机托盘。
  5. 📌NVLink 仅用于同一个托盘内部 8 颗 CPX GPU 的纵向扩展,每颗 CPX 的 NVLink 带宽为 1‑1.5TB/s,对比 Rubin 单颗 3.6TB/s。
  6. 📌CPX 需要和 Vera Rubin NVL72 搭配使用,英伟达建议 CPX 与 Rubin 的配比为 1 比 1。
  7. 📌当前 AI 推理工作负载当中,超过一半来自处理输入内容(context)并且建立对应的 KV 缓存,因此 CPX 依靠部署灵活性与更低成本承接 prefill 工作。
  8. 📌每个运算托盘搭载 8 颗 CPX,合计拥有约 1.34TB HBM4,足以支撑绝大多数长上下文 prefill 以及 KV 缓存的搭建需求。