📄 😃 1) OpenAI 交易 / 生产验证 / 收入可见性 🤝 OpenAI 已与多家公司宣布硬件合作，但如今真正将其模型投入生产运行的企业只有两家：英伟达
- 序号：460
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
📄
😃 1) OpenAI 交易 / 生产验证 / 收入可见性 🤝 OpenAI 已与多家公司宣布硬件合作，但如今真正将其模型投入生产运行的企业只有两家：英伟达和 Cerebras。 💰 我们与 OpenAI 的协议是一份具有约束力的照付不议合同，涉及 750 兆瓦电力。 💵 合同总金额，首期预付款达 10 亿美元。 🗓️ 该协议分三期执行：2026 年部署 250 兆瓦，2027 年部署 250 兆瓦，2028 年部署 250 兆瓦。 ☁️ 2026 年的 250 兆瓦将通过 Cerebras 云平台交付并租赁三年，OpenAI 拥有第四年和第五年的续租选择权。 ⚙️ 2027 年和 2028 年，OpenAI 可选择直接购买设备，或继续通过我们的云平台接收交付。 🔋 此外，OpenAI 还拥有额外 1.25 吉瓦容量的选择权。 🏆 这确实是硅谷历史上规模最大的交易之一。 📊 在我们的会计处理及各位经纪商的模型中，我们采用了最保守的假设：三期全部通过云平台交付，这将使收入分摊周期最长，同时承担最高的资本支出。 😎 2) 为什么 OpenAI 需要 Cerebras / 延迟作为产品问题 💡 关于速度慢的成本，另一种思考方式是这条推文串，它阐述了我们的价值主张。 🗣️ 保罗・格雷厄姆说：“如果 ChatGPT 没那么慢，我使用谷歌的频率会减少一半。” 👥 想想看，人们正在离开 ChatGPT，因为它太慢了，而在等待期间，他们转而使用竞争对手的产品。 🧑💼 山姆・奥特曼随即回应：“我们会解决这个问题。” 🚀 接着埃隆・马斯克也插话：“不是所有人都那么慢。” 📉 从这三条推文中我们看到：如果你速度慢，客户就会离开你，而竞争对手会利用这一点来对付你。 🤝 OpenAI 是如何解决这个问题的？他们通过与 Cerebras 达成合作来解决。 💸 未来几年内，这笔交易价值，这就是问题解决的方式。 ✨ 山姆・奥特曼精辟地总结了速度带来的价值：AI 就像之前的所有技术一样，当它响应迅速时，用户会用它做更多事，停留时间更长，并把它应用于更重要的问题上。 🧠 3) 推理 / 智能体计算爆发 🔍 我们正处于推理的时代，这是一种在推理过程中利用算力来生成更优答案的技术。 ⚡ 这也是 AI 推理计算量如此巨大的原因之一，而这种计算强度对 Cerebras 而言是巨大的优势，因为我们在这些计算上的速度要快得多。 🌐 所有最先进的模型都采用相同的技术，Gemini、Claude、OpenAI GPT、中国模型、国内模型，每一个模型都在使用推理。 ❓ 在单次推理中，我们提出一个问题，模型生成一个答案。 📈 而在推理过程中，我们提出一个问题，然后使用大约来生成答案。 📝 我们制定计划，分解问题，分步解决，检查每个答案，整合各部分，起草解决方案，审查它，然后交付解决方案。 ✅ 结果是得到更好的答案，但代价是增加了计算量，而每一步都需要时间和计算资源。 🚀 当我们从推理转向智能体加推理时，每个查询会启动多个推理流，这会使计算量成倍增加。 ⚡ 4) 核心速度主张 / 跨模型广度 🏅 在 Cerebras，我们构建了。 🚀 我们的速度比最快的 GPU。 ✅ 我想向您保证，这种速度优势并非特例。 🌎 它适用于美国制造的模型和中国模型，适用于大模型和小模型，也适用于参数规模达万亿级和十亿级的模型。 📊 我们在所有场景下都实现了约 15 倍的性能提升。 🏆 如今，整个行业都明确认可这一点：我们打造了全球最快的解决方案。 🔬 我们之所以能做到这一点，是因为我们发明了过去 75 年计算机行业中不可能实现的技术。 🍽️ 我们解决了构建晶圆级处理器的问题，这种处理器有餐盘大小，而传统处理器只有邮票大小。 📏 我们的处理器比最大的 GPU，内存带宽，这正是高速推理的基础。 🏗️ 5) 架构 / 为何晶圆级技术对推理至关重要 🔤 关于推理，首先要了解的是，为了计算下一个词，所有模型权重都需要从内存传输到计算单元。 🔁 这个过程是逐词顺序进行的。 📖 如果提示词是 “敏捷的棕色”，而你想要生成 “狐狸” 这个词，那么所有模型权重都需要从内存传输到计算单元才能生成 “狐狸”。 ➡️ 接着，“狐狸” 会被用来生成下一个词，而所有模型权重又需要再次从内存传输到计算单元，如此反复，逐词推进。 📊 如今，一个 700 亿参数的模型已算小型模型，而该模型中的权重数据量相当于约 100 部高清电影。 🔄 生成每一个词都需要将如此庞大的数据从内存传输到计算单元。 📝 我们在演示中展示的回答大约有 1000 个词，因此生成这些回答需要传输相当于 10 万部高清电影的数据量。 🚀 我们的核心优势在于：从 HBM 传输数据到 GPU 的速度约为 8TB / 秒，而在 Cerebras 晶圆上，从内存到计算单元的传输速度，达到 21000TB / 秒。 💾 通过采用大芯片设计，我们得以使用高速存储器 SRAM。 📈 而正是由于芯片面积足够大，我们可以在芯片上集成足够多的 SRAM，从而克服 SRAM 的传统弱点，即每平方毫米的存储容量有限。 🧩 我们通过增加芯片面积来解决这个问题。 📶 6) 扩展至大规模 / 万亿参数模型 ❓ 与 GPU 面临的问题相同，一个显而易见的问题是：当模型规模越来越大时会发生什么？当模型变得极其庞大时又该如何应对？ 🤝 由于我们目前正在为 OpenAI 及众多其他客户提供服务，请允许我分享当模型权重超过单个晶圆级引擎承载能力时的解决方案。 🔢 这是一个 1.1 万亿参数的模型。 🧩 我们的软件会将模型拆分为多个部分，将这些部分分配到不同的处理器上，并通过流水线方式运行推理。 🌍 这就是我们为最大规模的开源和闭源模型提供服务的方式，也是我们为全球最大模型提供服务的方式。 💼 我们不销售芯片，我们销售的是系统，并通过我们的云平台销售系统使用时间。 💰 7) 高速运行时的成本 / 功耗与 GPU 对比 💡 GPU 并没有统一的价格，这一点在行业内常被误解。 🐢 在每秒 35 个 token 的极慢速度下，一台 GB200 NVL72 总计可输出约 500 万 token / 秒，因此能支持数万名用户以 35token / 秒的速度运行。 ⚡ GPU 在低速运行时效率极高。 🏎️ 但若切换到另一端，每秒 270 个 token，它们只能让一名用户以该速度运行，此时 GPU 的成本高得惊人。 ❓ 因此，比较双方性能需要额外信息：在什么速度下？ 📉 当 GPU 低速运行时，我们无法与之相比，它们更快且更高效。 ⚖️ 但大约从每秒 100 到 150 个 token 开始，GPU 变得极其昂贵且功耗效率低下，而我们的成本与功耗仅为其极小一部分。 📊 若要将我们置于英伟达的图表中，必须彻底改变整个横轴，我们已远超其范围。 🚫 没有任何数量的 GPU 能达到我们的速度，GPU 根本不可能实现这种性能。 🏆 在这种速度下，我们毫无竞争对手。 📈 8) 毛利率 / 定价 / 成本杠杆 ✅ 我们已实现满产良率，这是我们的第三代产品，良率表现优于 B200 芯片。 💸 供应链成本仍有压缩空间，定价策略也存在优化余地。 📊 去年我们实现约，毛利率约，这意味着我们向供应链投入了约 2.5 亿美元。 📈 这并非高效状态，当投入规模接近 10 亿、20 亿甚至 30 亿美元时，成本将持续改善。 💲 第二点是定价机遇仍在前方，过去四个月，我们已将价格提升。 🚀 Anthropic 推出的提速服务速度提升 2 倍，收费却提高 6 倍，而我们的速度比他们的 2 倍还要快 15 倍。 🔝 因此定价天花板尚未触及。 🧑💼 鲍勃：正如安德鲁所说，我们在定价和成本方面都有机会来提升利润率，中期内可能还会更高。 📉 9) 2026 年毛利率下滑 / 产能限制是问题所在，而非产品经济性 📉 2026 年毛利率将出现下滑，原因是 2025 年下半年 AI 推理需求爆发式增长，而我们的产能无法跟上需求。 🏢 我们没有足够的数据中心。 🤝 为了满足客户需求，我们找到了大客户 G42，该公司运营着超大规模云服务，并请求租回部分产品。 📉 显然，这比将相同硬件部署在我们自有数据中心的利润率要低得多。 📊 这导致我们在 2025 年损失了四个百分点的毛利率，并在 2026 年仍会损失部分毛利率。 📈 随着我们自有数据中心产能的扩张以及逐步退出这些租赁安排，毛利率将回升至接近长期目标，。 📋 最后我想指出的是，长期毛利率目标 60% 左右正是我们当前积压订单中的毛利率水平。 ✅ 一旦我们拥有足够的数据中心，不再需要从合作伙伴处租赁额外产能，毛利率将迅速回升至这些长期水平。 🚚 10) 供应链 / 规模化优势 vs GPU 瓶颈 🔒 当前供应链中最紧张的环节是内存、HBM 和 CoWoS，而我们两者都不用。 🏭 第三个非常紧张的环节是台积电的 3nm 产能，我们不用 3nm，我们用 5nm。 🤝 台积电是 Cerebras 的投资者，并且一直能够满足我们不断增长的需求，包括我们在 2025 年底提出的要求，即在 2026 年大幅增加产能，以使我们能够履行对 OpenAI 的承诺。 ⏱️ 话虽如此，制造硬件存在光速限制，当你制造和移动原子时，存在光速限制。 🏆 我们将成为硬件行业历史上最快达到 10 亿美元收入的公司之一，也是最快达到 20 亿、50 亿和 100 亿美元的公司，我们行业历史上最快。 🚀 我们将设定一个新的光速，但光速确实存在。 🏭 你需要建造工厂、订购工具，并应对具有交货周期的真实供应链。 📈 我们相信，在未来几年内，我们可以将制造能力每年提升约 10 倍，这可能是上限。 🏭 11) 台积电产能 / 前端分配 ✅ 我们已获得 2026 年和 2027 年的充足产能分配。 🔄 我毫不怀疑未来会带着修正后的预测重返台积电，他们一直展现出极大的配合度。 🌐 台积电非常重视确保客户基础不局限于五六家巨头。 ⚠️ 若台积电愿意，完全可以将全部产能分配给少数客户，但这既不利于自身业务，也有损生态系统。 🧐 他们深知苹果通过收购 PA Semi 进入该领域，AWS 则通过收购 Annapurna 入局。 🤝 这个动态生态系统参与者众多，台积电已将 “不仅为最大客户提供产能” 纳入企业战略。 🎯 我们正是这一战略的受益者。 📊 去年我们尚未跻身前 150 大客户之列，今年将进入前 15 名。 💪 我对产能保障充满信心。 ⚡ 在如此高速增长阶段，压力不仅施加于供应链头部供应商，更波及所有合作伙伴，这绝非易事。 👍 而我们的供应商都顶住了压力。 🛣️ 道路总会有坎坷，但我们非常自豪地看到供应链对我们需求增长所做出的积极响应。 🏁 12) Groq/LPU 竞争 📢 市场已经给出了明确的信号。 📊 Groq 在 2025 年营收约 5000 万美元，毛利率为负，而我们营收约 5 亿美元，毛利率约 40%。 🚀 我们的速度是 Groq 的。 💾 LPU 同样基于 SRAM 方案，我们认同他们部分架构设计，但其弱点在于芯片面积达 800 平方毫米。 🧩 即使运行中等规模模型，他们也需要数千颗芯片。 🔢 对于大型模型，我们可能只需 4 颗、8 颗或 12 颗芯片，且仅需跨越芯片边界 4 次、8 次或 12 次，而他们需要跨越数千次。 📉 这种效率极其低下，也是其速度无法大幅提升的原因。 ❌ 即便被英伟达收购，这一瓶颈也无法解决。 🐢 当数千颗芯片以流水线方式运行时，片外通信耗时巨大，而片外传输速度缓慢，这从根本上限制了该方案的速度天花板。 🔗 13) 解耦推理 / 超大规模云服务商 vs 新型云服务商 💼 专业化总是存在机会，而专业化会带来非常有趣的权衡。 ⚡ 通过专业化，总能实现更快的速度，我们从事的正是专业化、速度与灵活性之间的权衡。 💬 所有人都在谈论解耦方案，但至今尚未有人将其投入生产。 ✅ 当解耦一个解决方案时，它能带来巨大优势：提升吞吐量，从而降低令牌成本，这极具吸引力。 ⚖️ 然而，权衡之处在于：建设数据中心时，你需要为预填充阶段分配一定算力，为解码阶段分配另一部分算力。 ⚠️ 如果工作负载发生变化，或工作负载特性改变，导致你希望调整预填充与解码的算力配比，就会产生闲置算力，而没有什么比闲置算力更昂贵。 🚀 这恰恰是 AWS 这类超大规模云服务商的优势所在：我们可以与他们共同构建解耦方案，当流量模式改变时，他们拥有庞大的算力集群来分流这些流量。 📉 这对新云厂商不利，因为它们正在建设大规模的单功能、单用途、单客户容量部署，并且没有足够庞大的设备集群来卸载那些对解耦方案效率低下的流量。 🔮 随着时间的推移，我相信未来会出现包含解耦与非解耦方案的异构集群。
总体总结
主题正文
- ⚡ 这也是 AI 推理计算量如此巨大的原因之一，而这种计算强度对 Cerebras 而言是巨大的优势，因为我们在这些计算上的速度要快得多。
- 🚀 我们的核心优势在于：从 HBM 传输数据到 GPU 的速度约为 8TB / 秒，而在 Cerebras 晶圆上，从内存到计算单元的传输速度，达到 21000TB / 秒。
- 🐢 在每秒 35 个 token 的极慢速度下，一台 GB200 NVL72 总计可输出约 500 万 token / 秒，因此能支持数万名用户以 35token / 秒的速度运行。
- 📈 这并非高效状态，当投入规模接近 10 亿、20 亿甚至 30 亿美元时，成本将持续改善。
- 🧑💼 鲍勃：正如安德鲁所说，我们在定价和成本方面都有机会来提升利润率，中期内可能还会更高。
- 📉 2026 年毛利率将出现下滑，原因是 2025 年下半年 AI 推理需求爆发式增长，而我们的产能无法跟上需求。
- 📋 最后我想指出的是，长期毛利率目标 60% 左右正是我们当前积压订单中的毛利率水平。
- 🤝 台积电是 Cerebras 的投资者，并且一直能够满足我们不断增长的需求，包括我们在 2025 年底提出的要求，即在 2026 年大幅增加产能，以使我们能够履行对 OpenAI 的承诺。