📄 📌在 GTC 2026 上,VR NVL72 在 O (1-3 万亿) 参数模型显示,每兆瓦性能是 Blackwell 的 3 倍,大约为 200 TPS。
- 序号:300
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
📄 📌在 GTC 2026 上,VR NVL72 在 O (1-3 万亿) 参数模型显示,每兆瓦性能是 Blackwell 的 3 倍,大约为 200 TPS。 📌但与 Rubin 在预发布软件上已实现的真实世界性能相比,我们已经看到了每兆瓦高达 7 倍的更好 token 吞吐量。 📌随着 Rubin 软件栈和内核库的成熟,以及开发者社区在 Rubin 优化方面经验的积累,我们预计这一差距将进一步扩大。 📌当我们考虑 3 年的租赁成本时,2026 年 7 月 Rubin 的成本为每芯片 / 小时超过 8.5 美元,Blackwell Ultra NVL72 的成本为每芯片 / 小时 5 美元,这次升级仍然是物超所值的。 📌在 80 TPS P90 交互性下,Vera Rubin 在相同的租赁 TCO 下可以产生多 62% 的总 token。 📌在更具交互性的前沿部分,Vera Rubin 在 3 年租赁 TCO 下可以实现多达 16 倍的 token。
总体总结
主题正文
- 📌在 GTC 2026 上,VR NVL72 在 O (1-3 万亿) 参数模型显示,每兆瓦性能是 Blackwell 的 3 倍,大约为 200 TPS。
- 📌但与 Rubin 在预发布软件上已实现的真实世界性能相比,我们已经看到了每兆瓦高达 7 倍的更好 token 吞吐量。
- 📌随着 Rubin 软件栈和内核库的成熟,以及开发者社区在 Rubin 优化方面经验的积累,我们预计这一差距将进一步扩大。
- 📌当我们考虑 3 年的租赁成本时,2026 年 7 月 Rubin 的成本为每芯片 / 小时超过 8.5 美元,Blackwell Ultra NVL72 的成本为每芯片 / 小时 5 美元,这次升级仍然是物超所值的。
- 📌在 80 TPS P90 交互性下,Vera Rubin 在相同的租赁 TCO 下可以产生多 62% 的总 token。
- 📌在更具交互性的前沿部分,Vera Rubin 在 3 年租赁 TCO 下可以实现多达 16 倍的 token。