📈英伟达 / 博通 / AMD:TechFund 5 月 3 日把推理 token 需求作为主锚,OpenAI 企业推理 API token 同比增 320 倍

图片

无图片

正文

📈英伟达 / 博通 / AMD:TechFund 5 月 3 日把推理 token 需求作为主锚,OpenAI 企业推理 API token 同比增 320 倍,中国企业 token 使用量 6 月至 12 月增 162%。 ⚡作者称英伟达 Dynamo 解耦推理可带来,并把 Groq LPX 部署到约 25% 数据中心的可能性纳入讨论。 🔒产能依旧是核心制约因素。 💰博通:TechFund 5 月 3 日测算 2026 财年 AI 营收接近,2027 财年 6 个 XPU 客户合计近 10GW,其中 OpenAI 超过 1GW、Anthropic 同比 3 倍至 3GW。 💵每 GW 收入约 120-150 亿美元,对应 2027 财年 AI 营收超过。 🔒产能依旧是核心制约因素。 📈Marvell:TechFund 引述 RBC 5 月 3 日观点,给 Marvell 105 美元目标价,称 2026 日历年定制 ASIC 收入至少增长 20%,Trainium 可服务市场占比超过 50%。 💵2028 财年微软 ASIC 贡献 5-8 亿美元,光学占数据中心收入 50%、占销售额 35% 以上,过去 2 年约 60% 复合年均增长率。 🚀亚马逊 / AWS:TechFund 5 月 3 日称 AWS 增长率加速至,为 13 个季度最快。 💵AWS 年化收入运转率 1420 亿美元,积压订单 2440 亿美元,同比增 40%、环比增 22%。 📈Graviton 与 Trainium 芯片业务年化收入超过 100 亿美元且同比三位数增长。 📌AWS 关键数据:1420 亿美元年化收入、2440 亿美元积压订单、Trainium2 超过 140 万颗。 🔬Cerebras:Andrew Lu 与 TechFund 均把 Cerebras 作为台积电市场份额和低延迟推理样本。 🧩WSE-3 由台积电 5nm 制造,面积 46225 平方毫米,含 4 万亿晶体管、90 万个 AI 核心、44GB 片上内存和 21PB/s 带宽。 ⚔️相对 B200,面积大 58 倍、晶体管多 19 倍。 💰Cerebras 预约订单高达 246 亿美元。 🤝Cerebras/OpenAI/AWS:TechFund 5 月 3 日称 OpenAI 承诺 3 年采购 750MW 推理算力,价值 200 亿美元,折合年收入约 67 亿美元、每 GW 约 270 亿美元。 📅协议可在 2030 年前扩至 2GW,AWS 则把 Trainium3 负责预填充、CS-3 负责解码。 🔐OpenAI 已承诺采购 750MW 推理算力。 🔬Google TPU/Intel/ 台积电 / 联发科:郭明錤线索在多份主窗口中重复出现,2027 年下半年 Google TPU Humufish 采用 Intel EMIB-T,当前技术验证良率 90%。 📊行业 FCBGA 良率普遍在 98% 以上,台积电 2026 年 5.5 光罩层 CoWoS 良率目标同样从 98% 起步。 ⚠️技术验证良率不等于最终生产良率。 💰Google TPU 成本链:Google 询问台积电,若 Humufish 主计算芯片由 Google 直接下晶圆订单、不经联发科转单,可节省多少成本。 💡这说明自研 TPU 对抗英伟达的关键不只是性能,而是 EMIBT、基板、先进制程分配和投片路径共同决定的成本优势。 🧐Google 已从温和买家转变为对成本严苛的买家。 🤝Intel/Tesla/SpaceX:Andrew Lu 5 月 3 日称 Intel 可能成为 Tesla/SpaceX TeraFab 的逻辑制程与封测技术来源。 📈TeraFab 远期目标可能走向近 10 万片 / 月、甚至 100 万片 / 月,半导体设备交期 6-12 个月,Intel 授权可分摊 18A 以下节点研发成本。 ⚡英伟达 / Emerald AI:Andrew Lu 5 月 3 日称英伟达与 Emerald AI、AES、Constellation、Invenergy、NextEra、Nscale、Vistra 合作,目标是把 AI 工厂变成电力灵活资产。 💡方案声称可释放美国电力系统高达潜在容量,DSX Flex 过去 1 年已在 5 个商业数据中心试点。 🔬英伟达 / Groq/Rubin:补充窗口显示 Rubin 预计 2026 年下半年推出,Rubin Ultra 的 SRAM 容量可能升至 512MB。 📝材料强调 SRAM 不是容纳整个模型,而是减少从 HBM 反复取数,因此推理效率提升与 HBM 需求上升并不冲突。

总体总结

主题正文

  1. 📈英伟达 / 博通 / AMD:TechFund 5 月 3 日把推理 token 需求作为主锚,OpenAI 企业推理 API token 同比增 320 倍,中国企业 token 使用量 6 月至 12 月增 162%。
  2. 💰博通:TechFund 5 月 3 日测算 2026 财年 AI 营收接近,2027 财年 6 个 XPU 客户合计近 10GW,其中 OpenAI 超过 1GW、Anthropic 同比 3 倍至 3GW。
  3. 📈Marvell:TechFund 引述 RBC 5 月 3 日观点,给 Marvell 105 美元目标价,称 2026 日历年定制 ASIC 收入至少增长 20%,Trainium 可服务市场占比超过 50%。
  4. 🧩WSE-3 由台积电 5nm 制造,面积 46225 平方毫米,含 4 万亿晶体管、90 万个 AI 核心、44GB 片上内存和 21PB/s 带宽。
  5. 🤝Cerebras/OpenAI/AWS:TechFund 5 月 3 日称 OpenAI 承诺 3 年采购 750MW 推理算力,价值 200 亿美元,折合年收入约 67 亿美元、每 GW 约 270 亿美元。
  6. 🔬Google TPU/Intel/ 台积电 / 联发科:郭明錤线索在多份主窗口中重复出现,2027 年下半年 Google TPU Humufish 采用 Intel EMIB-T,当前技术验证良率 90%。
  7. ⚡英伟达 / Emerald AI:Andrew Lu 5 月 3 日称英伟达与 Emerald AI、AES、Constellation、Invenergy、NextEra、Nscale、Vistra 合作,目标是把 AI 工厂变成电力灵活资产。
  8. 🔬英伟达 / Groq/Rubin:补充窗口显示 Rubin 预计 2026 年下半年推出,Rubin Ultra 的 SRAM 容量可能升至 512MB。