📄 📌在 GTC 2026 上,VR NVL72 在 O (1-3 万亿) 参数模型显示,每兆瓦性能是 Blackwell 的 3 倍,大约为 200 TPS。

图片

无图片

正文

📄 📌在 GTC 2026 上,VR NVL72 在 O (1-3 万亿) 参数模型显示,每兆瓦性能是 Blackwell 的 3 倍,大约为 200 TPS。 📌但与 Rubin 在预发布软件上已实现的真实世界性能相比,我们已经看到了每兆瓦高达 7 倍的更好 token 吞吐量。 📌随着 Rubin 软件栈和内核库的成熟,以及开发者社区在 Rubin 优化方面经验的积累,我们预计这一差距将进一步扩大。 📌当我们考虑 3 年的租赁成本时,2026 年 7 月 Rubin 的成本为每芯片 / 小时超过 8.5 美元,Blackwell Ultra NVL72 的成本为每芯片 / 小时 5 美元,这次升级仍然是物超所值的。 📌在 80 TPS P90 交互性下,Vera Rubin 在相同的租赁 TCO 下可以产生多 62% 的总 token。 📌在更具交互性的前沿部分,Vera Rubin 在 3 年租赁 TCO 下可以实现多达 16 倍的 token。

总体总结

主题正文

  1. 📌在 GTC 2026 上,VR NVL72 在 O (1-3 万亿) 参数模型显示,每兆瓦性能是 Blackwell 的 3 倍,大约为 200 TPS。
  2. 📌但与 Rubin 在预发布软件上已实现的真实世界性能相比,我们已经看到了每兆瓦高达 7 倍的更好 token 吞吐量。
  3. 📌随着 Rubin 软件栈和内核库的成熟,以及开发者社区在 Rubin 优化方面经验的积累,我们预计这一差距将进一步扩大。
  4. 📌当我们考虑 3 年的租赁成本时,2026 年 7 月 Rubin 的成本为每芯片 / 小时超过 8.5 美元,Blackwell Ultra NVL72 的成本为每芯片 / 小时 5 美元,这次升级仍然是物超所值的。
  5. 📌在 80 TPS P90 交互性下,Vera Rubin 在相同的租赁 TCO 下可以产生多 62% 的总 token。
  6. 📌在更具交互性的前沿部分,Vera Rubin 在 3 年租赁 TCO 下可以实现多达 16 倍的 token。