💡 🤔我理解所有关于 Anthropic 失去份额、实际利率、利差和二阶导数的紧张情绪。仍然认为最可能的未来结果是混合、多模型的未来,几乎所有人都会赢,开放权重
- 序号:284
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
💡
🤔我理解所有关于 Anthropic 失去份额、实际利率、利差和二阶导数的紧张情绪。仍然认为最可能的未来结果是混合、多模型的未来,几乎所有人都会赢,开放权重代币很可能占绝大多数,主导的前沿模型公司仍然表现良好,尽管可能不是五月份时看似可能的结果,而 AI 基础设施 / 应用从模型层日益加剧的碎片化、竞争和更低的利润率中极大受益。 📉模型层利润率的下降,只要有人愿意为训练付费,就会机械性地推动算力需求上升。而黄仁勋显然愿意充当 “最后的训练者”。随着 24/25 年签订的低于市场价的算力合同陆续到期并以更高价格续约,云和新云的收入应该会继续加速增长,这将有助于缓解融资方面的担忧;我认为我们可能已接近这轮建设的外部融资峰值。值得注意的是,根据 3Fourteen Research 的数据,。价格目前仍在上涨,但这个内部收益率数字实在太离谱,不便公开。规模化可获得的 37% 内部收益率理应能获得融资。 📝关于本周末围绕谅解备忘录的争议,Anthropic 的 4130 亿美元真实合同承诺听起来很吓人。实际上,这大约相当于每年 310 亿美元的云支出,鉴于其报告的年度经常性收入,这完全可以靠内部融资解决;另有 1610 亿美元在博通方面的支出,将由博通和私人信贷提供融资。 🌍继续相信模型层的碎片化对普通美国人和世界各地的人类来说是最好的结果。正如我之前所说,不要信任任何 5 到 20 个人来为这项技术的方向做出最好的决策。我希望尽可能多的 AI,以最大化它们涵盖世界各地人类价值观的多样性和人类变异的丰富性的几率。我也想要一个与我个人价值观一致的 AI。安全、自由以及通过民主化、分布和扩散而非集中化来最大化人类能动性。历史已经就后一条道路的危险发出了声音。 ⏳最后,在我看来,任何减缓这一建设进程的因素从长期来看都是净利好,因为最大的风险和最坏的结果是过度建设。我们在结构上短缺瓦特、晶圆,并且日益短缺资本。这都是好事。但愿我们不会仍处在 ZIRP 时代,台积电将资本支出扩大到当前计划的三倍,而我们又不短缺涡轮叶片:那几乎肯定会导致过度建设和泡沫。那将非常糟糕。更慢、更平稳、更持久,对投资者和世界都更好。在我看来,近期最合理的看空理由是可怕的网络事件,但 AI 网络防御正在快速提升,我很高兴听到 Sholto 说网络很可能在不久的将来成为防御主导。 📜以下是更长的分帖版本: ✍️2)一个 OpenAI 和 Anthropic 在模型层形成主导寡头的未来,对地球上几乎所有公司都是负面的,除了这两家自己。对整个 token 供应链尤其糟糕。它们将成为超大规模云、新云、数据中心半导体的单一买方。它们将拥有巨大的购买力,并最终实现垂直整合。对应用层显然会是灾难性的。而最重要的是,对人类也是灾难性的。这在硅谷是一种准共识观点。 ✅这就是为什么模型层的碎片化和竞争对 AI 基础设施和 AI 应用都有利。与仅 4 个月前相比,模型层的竞争已经变得激烈得多,这要归功于 Grok Bot、Muse Wonder,以及最重要的,开放权重模型。我确实认为,人们会对自 5 月以来几乎所有专注于开放权重的推理云所经历的增长感到震惊。这对 AI 基础设施需求来说真的非常有利。 📊值得注意的是,尽管 Anthropic 失去份额,而 OpenAI 可能保持了份额,但 OpenAI 在过去 3 个月引领了份额的增长。正如 Eric Vishria 所指出的,每个人都可以赢。顺带一提,Muse 会向我们展示很多关于在前沿领域什么对份额至关重要的东西:仅仅是在帕累托前沿上的模型主导地位,还是以 Harness / 模型集成来衡量的产品质量,例如 Claude Code、Grok Build 和 Codex。尽管在未来 18 个月内,模型吞并 Harness 的可能性正变得越来越大。 💻软件实际上边际成本为零。AI 则不然。因此,开源对传统软件和 AI 的影响截然不同。Opus 5.5、GPT-6.1、Muse Wonder、GLM 5.3、Kimi K3 生成所有 token 大致消耗相同数量的算力和能源。然而,半导体行业对于所有这些模型,有效每 token 收入却差别巨大。Opus 或者 ChatGPT 的 token,其加价幅度可能是 300% 到 400%(75% 至 80% 推理毛利率),而一个开放权重 token 可能只有 50%-100% 的加价(30%-50% 推理毛利率)。因此,对于同样 1 美元的真实底层 token 成本,一个 Opus 或者 ChatGPT 的 token 在模型层能产生 4 到 5 美元的收入,而一个开放权重模型的 token 在模型层可能只产生 2 美元的收入。而且开放权重模型的议价能力弱于 Anthropic 和 OpenAI,所以它们通常会为云厂商带来更高的 token 收入。这就是为什么开放权重模型占据显著份额是 AI 基础设施需求的最佳情景。4 到 5 家前沿实验室之间激烈的竞争压缩利润率,是次优情景。来自调研先知而讽刺的是,随着我们迈向智能体集群,这些更廉价的开放权重 token 似乎对智能体最有帮助。这意味着像 “Fable 5.1 extra-high” 这样的东西,在协调 100 个开放权重智能体集群的场景中,是值得付费的。 📈这一切都解释了为何随着模型层竞争日益激烈,算力价格一路飙升。模型层利润率的下降,会机械性地 —— 甚至可以说违背直觉地 —— 推高算力需求。或许,更为重要的动态是:随着智能变得更具备经济效用,算力的价值理应上升。这是 Dwarkesh 的观点:H100 最终会以一名软件工程师的价值来定价。算力价格持续上涨让我感到意外,但放眼再看,似乎不太可能。据称,专注于开放权重的推理云厂商,在竞标 Blackwell 集群时出价已接近每瓦 100 美元,相比谷歌 / SpacEx 那边每瓦 50 美元的价格,这是一笔巨大、不可持续的溢价。自那笔交易以来价格还在上涨。 📄接下文。 ✍️3)开放权重模型正越来越多地在美国由像我们的投资组合公司 @FireworksAI_HQ 这样的公司进行后期训练,利用企业的私有数据来创建高度优化的专用模型。这种定制模型可以与路由器背后的前沿模型相结合,以终端客户 40% 的成本实现前沿性能,同时消耗相同数量的底层计算资源。 🔍Cursor 的 Composer、Cognition 的 SWE-2、Harvey 的 Tenet 都是这一趋势的早期范例。最终,世界上每一家大型公司都可能希望保护数据主权,并利用自身数据对自有模型进行后训练。这些模型将通过一个路由器与一个或多个前沿模型组合在一起。萨提亚・纳德拉、亚历克斯・卡普等人已经对这种混合式、多模型的未来做出了充分阐述。 📈这一趋势已经开始显现:过去几个月,在 Vercel 和 OpenRouter 的数据集里,开放权重模型的需求呈垂直式增长。在这一混合未来中,这些专业化的开源模型只是在压缩模型层的利润空间。而这会推动更多的算力需求,因为算力的加价实际上在减少。 💬再来说这个周末的具体争议。我周末关于没有人会把 OpenAI 和 Anthropic 未获资金支持的承诺当真的评论,针对的是 2025 年与多家亚洲供应链和半导体公司签署的超过 1 万亿美元的 “谅解备忘录”。没有人把这些当回事。合同承诺才重要,才会被认真对待。 📑根据 Anthropic 泄露的 S-1 文件,他们承诺在未来十年每年向亚马逊支出约 110 亿美元,未来 7 年每年向谷歌支出 150 亿美元,未来 6 年每年向 Azure 支出 50 亿美元。这些价格都远低于当前算力的现货价格以及当前算力的远期价格。考虑到约 80% 的推理利润率,每年合计 310 亿美元的云支出相对于其报告的约 700 亿美元年度经常性收入来说相当低,而且显然将通过内部融资解决。@altcap 尽力让你满意并降低门槛。SpaceX 的策略则截然不同:他们以与现货价格一致的更高价格出售算力。这可能带来 8-9 个月的回本周期,可能接近英伟达给他们的融资条件。对博通的 1610 亿美元承诺将需要来自博通和私人信贷某种组合的外部融资,而这已经开始发生。虽然 4130 亿美元真实、实际、不可取消合同的头条数字听起来耸人听闻且对 Anthropic 来说令人恐惧,但考虑到合同期限和 Anthropic 的规模,这其实是相当合理的。我们将不得不等待 OpenAI 的 S-1 文件,才能对他们进行类似的分析。 📋OpenAI 和 Anthropic 与各家超大规模云厂商及新兴云服务商签订的大部分实际合同承诺,如今已远低于算力的当前现货价格。这就是为什么 Sarah Friar 指出,她可以按合同价值 3 到 5 倍的价格出售他们所有已签约的算力承诺。她说的是字面意义上的事实。在一个 OpenAI 和 Anthropic 双双消失的世界里,他们的承诺会迅速被各路玩家以更高价格接手。我认为超大规模云厂商深深后悔他们在 2024 年、2025 年、甚至可能是今年上半年签下的每一份合同。随着这些合同陆续到期、算力按市场价格重新定价,他们的营收增长应该会稳步加速,这将有助于缓解 AI 基础设施的融资担忧。结果是,我认为我们可能正接近外部融资占 AI 基础设施建设比例的高峰(届时至少会有一笔市场普遍预期的 1000 亿美元超大规模股权融资,然后就可以收场了)。 🗣️还有更多要说的,但留到以后再谈。
总体总结
主题正文
- 仍然认为最可能的未来结果是混合、多模型的未来,几乎所有人都会赢,开放权重代币很可能占绝大多数,主导的前沿模型公司仍然表现良好,尽管可能不是五月份时看似可能的结果,而 AI 基础设施 / 应用从模型层日益加剧的碎片化、竞争和更低的利润率中极大受益。
- 随着 24/25 年签订的低于市场价的算力合同陆续到期并以更高价格续约,云和新云的收入应该会继续加速增长,这将有助于缓解融资方面的担忧;
- Opus 或者 ChatGPT 的 token,其加价幅度可能是 300% 到 400%(75% 至 80% 推理毛利率),而一个开放权重 token 可能只有 50%-100% 的加价(30%-50% 推理毛利率)。
- 因此,对于同样 1 美元的真实底层 token 成本,一个 Opus 或者 ChatGPT 的 token 在模型层能产生 4 到 5 美元的收入,而一个开放权重模型的 token 在模型层可能只产生 2 美元的收入。
- 据称,专注于开放权重的推理云厂商,在竞标 Blackwell 集群时出价已接近每瓦 100 美元,相比谷歌 / SpacEx 那边每瓦 50 美元的价格,这是一笔巨大、不可持续的溢价。
- ✍️3)开放权重模型正越来越多地在美国由像我们的投资组合公司 @FireworksAI_HQ 这样的公司进行后期训练,利用企业的私有数据来创建高度优化的专用模型。
- 考虑到约 80% 的推理利润率,每年合计 310 亿美元的云支出相对于其报告的约 700 亿美元年度经常性收入来说相当低,而且显然将通过内部融资解决。
- 随着这些合同陆续到期、算力按市场价格重新定价,他们的营收增长应该会稳步加速,这将有助于缓解 AI 基础设施的融资担忧。