📑 💬 📌 这是一次粗略尝试,用来估算服务 1 亿 DAU @Muse 所需的底层基础设施。 💬 📊 粗略结论是: 💬 ⚡ 根据每个 Muse 日活用户每天生成

图片

无图片

正文

📑

💬 📌 这是一次粗略尝试,用来估算服务 1 亿 DAU @Muse 所需的底层基础设施。 💬 📊 粗略结论是: 💬 ⚡ 根据每个 Muse 日活用户每天生成的推理等效模型调用数量,3-4GW 的电力需求是完全合理的。这或许就是传闻 Meta 明年将新增 7-10GW 计算能力的原因。 💬 💰 沙箱层的 CPU 相关投入不到 10 亿美元,DRAM 相关投入约 20 亿美元,这个数值比很多人的预期要小得多。 💬 📝 本次估算存在大量可变假设,欢迎所有反馈与反驳。 💬 🔍 Muse 背后存在两类截然不同的基础设施。 💬 🖥️ 1. Muse VM / 沙箱基础设施 💬 📌 每个用户分配 2 个 vCPU、约 8GB 内存和约 100GB 持久逻辑存储。 💬 🤖 2. Muse Spark 推理 💬 📌 模型推理通过 Meta 的外部推理基础设施输出。 💬 🧩 1/ 沙箱基础设施 💬 🧠 A.CPU 💬 📌 第一个错误假设是认为 1 亿 DAU 就代表同一时间有 1 亿个 VM 在持续消耗计算资源。 💬 📌 假设平均每位 Muse 日活用户对应的代理每天活跃工作两小时。 💬 📌 1 亿用户 × 2 小时 / 24 小时 = 约 800 万平均同时活跃 VM。 💬 📌 Meta 显然不能只按照日平均值配置资源,使用行为会在活跃时段集中爆发。 💬 📌 假设峰值是平均值的 2.5 倍: 💬 📌 800 万 ×2.5 = 约 2000 万峰值活跃 VM。 💬 📌 再增加大约 20% 容量裕度,得到约 2500 万配置的活跃 VM。所以基准假设实际是 Meta 需要足够的基建来支撑大约 25% 的 DAU 同时活跃。 💬 📌 下一个重要区别是虚拟 CPU 分配与物理 CPU 需求之间的差异。代理沙箱非常适合 CPU 超订阅,它们大量时间处于等待状态,在这些时段,VM 虽然保持活跃,但几乎不占用 CPU 资源。 💬 📌 DeepSeek 近期发布的 DSec 基础设施提供了一个有效的基准。其生产代理沙箱平台运行约 30000 个物理 CPU 核心和 250TB DRAM,部署在约 160 个节点,峰值并发超过 380000 个沙箱。DSec 还展示了大约每个节点稳定运行 800 个 microVM。每个节点大约 188 个物理核心:188 个物理核心 / 800 个 microVM = 约 0.23 个物理核心对应每个活跃 VM。 💬 📌 DeepSeek 显然是效率标杆。Muse 的数值可能落在每个活跃 VM 占用 0.3-0.75 个物理核心区间,我们选取每个活跃 VM 占用 0.5 个物理核心作为基准情景。这相当于每个物理 CPU 核心大约可承载两个同时活跃的 Muse VM。 💬 📌 使用基准假设:2500 万活跃 VM ×0.5 个物理核心 / 每个 VM = 1250 万物理 CPU 核心。 💬 📌 如果采用 256 核 CPU:1250 万核心 ÷256 核每颗 CPU ≈5 万个 CPU;如果采用 192 核 CPU,则约为 6.5 万个 CPU。 💬 📌 按照当前公开定价测算,这部分成本大约为 8 亿美元。 💬 📦 B.DRAM 💬 📌 CPU 可以实现较高程度的超订阅,因为等待状态的 VM 几乎不会消耗 CPU。内存则更难超订阅,因为活跃 VM 仍需要保留其工作状态。 💬 📌 Muse 向用户环境暴露约 8GB 内存,但实测的一个实例实际仅使用约 3GB。 💬 📌 2500 万活跃 VM ×3GB =75PB 物理 DRAM, 💬 📌 按照当前公开定价测算,这部分成本大约为 20 亿美元。 💬 ⚡ C. 沙箱电力 💬 📌 服务 1 亿 DAU 的全部 Muse 沙箱 / VM 层,大约需要 0.1GW 电力。 💬 🧠 2 / 推理 💬 📌 Muse 的个人计算机执行工具并不在本地存储状态,但实际模型运行在独立的推理基础设施上,以上是 Meta 的 Muse 架构。 💬 📌 单次推理事件能耗: 💬 📌 微软 2026 年的研究估算,经过优化的前沿规模推理,普通查询的能耗中位数约为 0.31Wh。 💬 📌 但一条 token 数量约 15 倍的长推理查询,能耗大约是前者的 13 倍,约为 4Wh 每条长推理查询。 💬 📌 该研究着重强调,推理与代理工作负载的能耗显著更高。 💬 📌 对每个日活用户每日推理等效事件数量做敏感性分析。 💬 📌 假设每位活跃 @Muse 用户每日生成相当于 50 个重推理事件。 💬 📌 单次消耗 5Wh: 💬 📌 1 亿用户 ×50 事件 / 天 ×5Wh =25GWh / 天 💬 📌 25GWh / 天 ÷24 小时 ≈1.0GW 平均电力 💬 📌 所以推理环节本身可能需要约 1-2GW 平均电力。 💬 📌 💬 📌 市面上流行的 Muse 分析框架认为,给每个用户分配 2 个 vCPU 和 8GB 内存会带来巨大的 CPU 需求。但这种朴素的计算方式实际上夸大了 CPU 需求,它将逻辑 VM 分配等同于专用的物理基础设施。 💬 📌 更值得关注的结论:消费端代理可能成为 CPU 和传统 DRAM 一个有意义的新增需求驱动因素,但。并且随着代理承担更多任务、运行更长的执行轨迹,以及越来越多地生成其他代理,推理需求的增速会超过用户数量本身的增速。

总体总结

主题正文

  1. 这或许就是传闻 Meta 明年将新增 7-10GW 计算能力的原因。
  2. 💬 📌 再增加大约 20% 容量裕度,得到约 2500 万配置的活跃 VM。
  3. 其生产代理沙箱平台运行约 30000 个物理 CPU 核心和 250TB DRAM,部署在约 160 个节点,峰值并发超过 380000 个沙箱。
  4. 每个节点大约 188 个物理核心:188 个物理核心 / 800 个 microVM = 约 0.23 个物理核心对应每个活跃 VM。
  5. Muse 的数值可能落在每个活跃 VM 占用 0.3-0.75 个物理核心区间,我们选取每个活跃 VM 占用 0.5 个物理核心作为基准情景。
  6. 💬 📌 使用基准假设:2500 万活跃 VM ×0.5 个物理核心 / 每个 VM = 1250 万物理 CPU 核心。
  7. 💬 📌 如果采用 256 核 CPU:1250 万核心 ÷256 核每颗 CPU ≈5 万个 CPU;
  8. 💬 📌 更值得关注的结论:消费端代理可能成为 CPU 和传统 DRAM 一个有意义的新增需求驱动因素,但。