📌 纳斯达克:IREN 联合创始人 / 联合首席执行官 以多吉瓦规模构建 AI 云基础设施 👤 周末有几个人问,呼吁放缓前沿 AI 发展步伐对建设意味着什么。一

图片

无图片

正文

📌 纳斯达克:IREN 联合创始人 / 联合首席执行官 以多吉瓦规模构建 AI 云基础设施 👤 周末有几个人问,呼吁放缓前沿 AI 发展步伐对建设意味着什么。一些想法: 💡即使模型从此不再进步,仅仅是把它们已经能做到的事情铺开,所需的算力也超过全世界未来几年能建出来的总量。关于 AI 应该被允许多快提升的争论是合理的。那是关于未来几代模型的事。 📈现有需求才是我认为人们误读的部分。Anthropic 首席执行官达里奥・阿莫代伊在 5 月表示,他们原本按 10 倍增长做规划,而第一季度实际运行速度是 80 倍,这就是他们算力供应吃紧的原因。OpenAI 总裁格雷格・布罗克曼在 7 月表示,无论如何他们都会处于算力短缺之中,正在选择优先扩展哪些产品。谷歌表示其处理的 token 量是一年前的 7 倍。如今有数亿人在使用这些模型,而大多数人只用到模型现有能力的一小部分。而每当更多算力上线,使用量就会再次跃升:已经在用的人解除限制,此前被拒之门外的客户得以接入,新的用例也会冒出来,而这些都不在任何人的计划之中。 🔧现在看供给端。瓶颈是 HBM,也就是每块主流 AI 芯片内部搭载的存储器。全球只有三家公司生产,而这三家今年的产能都已售罄。新建一座存储器工厂需要数年时间。TrendForce 预计明年 HBM 出货量将增长 50% 至 60%。英伟达作为 HBM 的最大买家,预计其明年营收将增长约 70%,并称这一展望受到 “供给约束”,同时指出其客户的预测指向接近 100% 的增长。根据我们自己自下而上的测算,存储器约束所对应的结果与英伟达的增长数字大致吻合。 🏗️然后,芯片还需要一栋接通电力的建筑,这又要更长时间。高盛估计,未来两年美国计划新增的产能中,只有大约一半能真正按时建成。 ⚖️需求端的风险似乎仍然明显偏向上行。供给端的风险则仍然偏向于建成的产能更少,而非更多。

总体总结

主题正文

  1. 💡即使模型从此不再进步,仅仅是把它们已经能做到的事情铺开,所需的算力也超过全世界未来几年能建出来的总量。
  2. Anthropic 首席执行官达里奥・阿莫代伊在 5 月表示,他们原本按 10 倍增长做规划,而第一季度实际运行速度是 80 倍,这就是他们算力供应吃紧的原因。
  3. OpenAI 总裁格雷格・布罗克曼在 7 月表示,无论如何他们都会处于算力短缺之中,正在选择优先扩展哪些产品。
  4. 而每当更多算力上线,使用量就会再次跃升:已经在用的人解除限制,此前被拒之门外的客户得以接入,新的用例也会冒出来,而这些都不在任何人的计划之中。
  5. TrendForce 预计明年 HBM 出货量将增长 50% 至 60%。
  6. 英伟达作为 HBM 的最大买家,预计其明年营收将增长约 70%,并称这一展望受到 “供给约束”,同时指出其客户的预测指向接近 100% 的增长。
  7. 根据我们自己自下而上的测算,存储器约束所对应的结果与英伟达的增长数字大致吻合。
  8. 供给端的风险则仍然偏向于建成的产能更少,而非更多。