📑 😮当我从消息源听说 Rubin Ultra 可能被降级为 HBM4，或者从 12 层 HBM 降到 8 层 HBM 时，我还以为是什么烂玩笑。 🤔从 16
- 序号：279
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
📑
😮当我从消息源听说 Rubin Ultra 可能被降级为 HBM4，或者从 12 层 HBM 降到 8 层 HBM 时，我还以为是什么烂玩笑。 🤔从 16 层砍到 12 层，我能理解。。 ⚠️但再砍一刀，降到 8 层或改用 HBM4，这直接违背了一个信念 ——。 ❓所以当我听说 Anthropic 和 OpenAI 这样的模型开发商甚至向英伟达要求 4 层 HBM4E 时，我就更困惑了。 🤨如果这么低的 HBM 就够用了，那 HBM 的护城河不就塌了吗？ 🌏护城河一塌，我们怎么抵挡即将涌来的中国供应？ 📉这是内存下行周期的开始吗？所有负面想法同时涌来，我慌了。 💡但我跟行业专家和消息源仔细聊过之后，找到了一个答案。 🗨️这个答案甚至说服了我自己 —— 一个自认在内存上花了不少功夫的人 —— 所以我想在这里分享给你。
- HBM 为何如此重要 📊对内存制造商而言，这一轮周期与以往所有周期的最大区别，就在于 HBM。 💬毫不夸张地说，这整场 DRAM 缺货，就是因为 HBM 的存在 ——。 📈今年早些时候，当 Rubin Ultra 仍被预期搭载 1TB HBM4E 时，有些预测显示，即便 DRAM 资本支出在上升，有效 DRAM 供应增长仅有 1%，全是因为 HBM。 🔁换句话说，正是 HBM 在持续推动 DRAM 摆脱大宗商品化。 ⚠️HBM 面临三大与良率相关的工程极限。 🔧第一是垂直堆叠裸片带来的封装阶段良率挑战。 📏第二是 HBM 的裸片面积比通用 DRAM 裸片更大，导致每片晶圆上可用的已知良品裸片（KGD）更少。 ⚙️第三是晶圆制程本身的良率损失 —— 在堆叠之前就要形成 TSV（硅通孔）。 💰第二和第三点是制造 HBM 本身无法回避的成本。 ✅第一点则不同。堆叠 4 层或 8 层，远比堆叠 12 层或 16 层成熟得多，所以只要降低堆叠高度，就能产出更多 HBM。 📤这直接带来更多加速卡出货，也是近期 HBM 降规的原因之一。
- 内存占预算比例太高 🧮假设降规前的 Rubin Ultra 使用 12 层 HBM4E，再考虑到 HBM4 涨价，。 ❌英伟达的客户根本不可能接受这个价格。 💱英伟达后来确实把 HBM 上的加价率从 75% 降到 50%，但即便如此，Rubin Ultra 还是太贵了。 👉于是，包括 OpenAI 和 Anthropic 在内的客户开始积极推动 HBM 降规 —— 这是物料清单中最大的一项 —— 以压低 GPU 价格。 🗣️有些客户更进一步，坚称 4 层 HBM 对他们来说就够了。 ℹ️我目前了解到的情况是，内存制造商拒绝了，降规止步于 8 层。 📌回头看，包括超大规模客户在内的内存买家从 7 月起就开始抵制内存涨价了。 📋Meta 对 SanDisk 的动作是一个案例。如今对 Rubin Ultra 内存涨价的抵制是另一个。 💡业内蔓延的一种看法是，本该用于推动 AI 进步的预算，被过度地倒进了内存里。
- 没有余地和预算继续推高 HBM 容量 💡我在 Hot Chips 上学到的一点是，对 HBM 来说，。 🔥HBM 正在成为内存中最热的一层。 📉把所有数据都留在 HBM 里的需求在缩小。 🔀模型分布在多颗 GPU 上，预填充和解耦正在解耦，相对 “冷” 的 KV Cache 和模型状态正下移到 LPDDR、CXL 和 NAND 层级。 🎯留在 HBM 里的，只有计算当前所需的工作集。 ✨模型开发商带来的软件改进也超乎想象。 🔢量化、MLA（多头潜在注意力）等技术让算法能够抵消模型权重和 KV Cache 的容量增长。 🎯一旦为最小工作集确保了足够容量，要解决的问题就从 “能存多少” 变成了 “每个 Token 所需数据能多快取到”。 ❗这并不意味着高容量已无必要。 💡关键在于，软件在不断拉低最低所需容量，而越过那个阈值后，额外价值更多来自带宽而非容量。 📦而且，更高带宽的 HBM 需要更多晶圆来制造。 ⚖️一片晶圆上只有有限比例的裸片能通过速度分拣，所以要求的速度越高，每片晶圆能产出的良品裸片就越少。 ⚠️这进一步加剧了上文所述的 HBM 对 DRAM 裸片的巨量消耗，并有可能使当前的 DRAM 短缺恶化。 🤝这就是为什么 HBM 买家不得不在容量和带宽之间做取舍。 🚀他们需要更高的带宽，哪怕牺牲容量，而且绝对没有空间在更高带宽之上再去保更高容量。 ❔那这对内存制造商意味着什么？ 💭就我个人而言，我认为这实际上是利好。 ♻️如今，内存制造商会报废那些不符合标准的有缺陷裸片 —— 无论是在前端还是封装环节 —— 或者把条件稍好的那些以不太好的价格卖给中国。 ✅但如果放弃容量意味着以 8 层形式销售 HBM4 和 HBM4E，那也意味着更高的封装良率。 📈这意味着更多 HBM，放大来看就是更多机架出货，所以。 结论：未来两年将决定内存制造商的命运 ⚠️HBM 并不完美。 🔥发热。对 DRAM 晶圆天生的贪婪胃口，长期制约着 DRAM 供应。 ⚖️分配优先级随资本优势的持有者而转移。 📝相比 DRAM 在计算架构和产业史上所占据的位置，对 HBM 的抱怨完全可以理解。 🗨️HBM 的创造者 SK 海力士自己也承认 HBM 并非完美架构。 👍但不可否认，HBM 是迄今为止最好的内存架构。 🛡️多亏了 HBM，内存变得不那么周期化了。 📉即使下行周期到来，HBM 需求也不会萎缩。 💡当 DRAM 价格下跌时，制造商可以提高 HBM 产量，抵御 DRAM 价格下滑。 🔁这是与以往所有周期最大的不同。即使在低迷期，。 🚀但我们不能止步于此。行业需要聚焦于构建 HBM 之后的下一代架构。 🔮我也不能排除出现一种优于 HBM 的架构 —— 它可能消耗更少 DRAM 晶圆，或者改用 NAND，或者另辟蹊径。 🤞而且我相信，这种架构将朝着内存与逻辑融合的方向出现。 🔄我们正在进入一个改良版的冯・诺依曼时代，内存和逻辑相互侵入对方的领地。 ⚡对内存制造商来说，未来两年将是决定未来几十年的分岔点。 🎯如果他们在此刻抓住通往逻辑的方向，就能尝试进入逻辑领域 —— 一个远大于内存的市场。他们也能加固自己在内存领域的护城河。 ⚠️如果他们反过来逐渐退让 —— 从 HBM 基础裸片之类的东西开始 —— 他们可能会失去 HBM 终于为他们赢来的摆脱大宗商品化机遇。 💸那他们就永远摆脱不了分包商的地位，而如果在这个节点掉链子，我认为内存制造商的利润很可能会回到 HBM 之前的水平。 🤝我相信内存制造商明白这一点。 📌这就是为什么三星在宣扬其晶圆代工与内存结合的优势，为什么 SK 海力士在探索与 Intel 的合作。 🚫而逻辑阵营 —— 包括英伟达 —— 并不希望内存制造商的角色扩大。 📝这就是他们反对 HBF 的原因。他们不想重演 HBM 在 NAND 上发生过的事 —— 失去主动权，被牵着走。 ❓我不知道内存和逻辑之间的角力谁会赢。 ✅我现在能确信的是： 🔮HBM 终有一天会被取代。 🎯终极方向是内存与逻辑的结合。 🛡️在人类能够绕过 HBM 今日所代表的那堵墙之前，内存制造商的利润将受到 HBM 结构性特征的保护。 📍似乎可以确定的是，。 💪别在接下来五年里倒下。我们怎么能没见证这场变革就落幕呢？ 昨天 23:01
总体总结
主题正文
- 😮当我从消息源听说 Rubin Ultra 可能被降级为 HBM4，或者从 12 层 HBM 降到 8 层 HBM 时，我还以为是什么烂玩笑。
- ❓所以当我听说 Anthropic 和 OpenAI 这样的模型开发商甚至向英伟达要求 4 层 HBM4E 时，我就更困惑了。
- 📈今年早些时候，当 Rubin Ultra 仍被预期搭载 1TB HBM4E 时，有些预测显示，即便 DRAM 资本支出在上升，有效 DRAM 供应增长仅有 1%，全是因为 HBM。
- 👉于是，包括 OpenAI 和 Anthropic 在内的客户开始积极推动 HBM 降规 —— 这是物料清单中最大的一项 —— 以压低 GPU 价格。
- 🔢量化、MLA（多头潜在注意力）等技术让算法能够抵消模型权重和 KV Cache 的容量增长。
- ♻️如今，内存制造商会报废那些不符合标准的有缺陷裸片 —— 无论是在前端还是封装环节 —— 或者把条件稍好的那些以不太好的价格卖给中国。
- 💸那他们就永远摆脱不了分包商的地位，而如果在这个节点掉链子，我认为内存制造商的利润很可能会回到 HBM 之前的水平。
- 🛡️在人类能够绕过 HBM 今日所代表的那堵墙之前，内存制造商的利润将受到 HBM 结构性特征的保护。