🧪 📌本次 MLPerf Inference v6.1(2026 年 9 月 16 日发布)共有 30 家参与者,首次出现英伟达 Vera Rubin 与 AM

图片

无图片

正文

🧪

📌本次 MLPerf Inference v6.1(2026 年 9 月 16 日发布)共有 30 家参与者,首次出现英伟达 Vera Rubin 与 AMD Instinct MI350P 的同行评审结果。英伟达方面,,72 颗 GPU 配置的 GB300 在 GPT-OSS-120B 模型上突破 110 万服务器 token / 秒;同时发布 72 颗 GPU 的 VR200 系统 preliminary results,在 DeepSeek-R1 上达 120 万服务器 token / 秒,持续验证其系统与软件层面的领先优势,。 📌AMD 方面,与 Crusoe 合作的;72 颗 MI355X 的商用级配置在 GPT-OSS-120B 上也突破 95 万服务器 token / 秒,MI355 系列表现超预期,证明 AMD 加速器在推理部署场景的竞争力提升,但当前代 GPU 的规模化仍需定制化开发,后续 MI450 Helios 有望降低集群扩展门槛。 📌英特尔(INTC)仍聚焦至强 6 CPU 与 Arc Pro B70 GPU,新增端到端 RAG(检索增强生成)基准测试,但。 📌谷歌 TPU(张量处理器)再次缺席,其提交结果均以英伟达 GB200 系统为基础,主要因该基准测试聚焦 DeepSeek-R1、GPT-OSS-120B 等开放模型,而非 Gemini 工作负载。

总体总结

主题正文

  1. 📌本次 MLPerf Inference v6.1(2026 年 9 月 16 日发布)共有 30 家参与者,首次出现英伟达 Vera Rubin 与 AMD Instinct MI350P 的同行评审结果。
  2. 英伟达方面,,72 颗 GPU 配置的 GB300 在 GPT-OSS-120B 模型上突破 110 万服务器 token / 秒;
  3. 同时发布 72 颗 GPU 的 VR200 系统 preliminary results,在 DeepSeek-R1 上达 120 万服务器 token / 秒,持续验证其系统与软件层面的领先优势,。
  4. 📌AMD 方面,与 Crusoe 合作的;
  5. 72 颗 MI355X 的商用级配置在 GPT-OSS-120B 上也突破 95 万服务器 token / 秒,MI355 系列表现超预期,证明 AMD 加速器在推理部署场景的竞争力提升,但当前代 GPU 的规模化仍需定制化开发,后续 MI450 Helios 有望降低集群扩展门槛。
  6. 📌英特尔(INTC)仍聚焦至强 6 CPU 与 Arc Pro B70 GPU,新增端到端 RAG(检索增强生成)基准测试,但。
  7. 📌谷歌 TPU(张量处理器)再次缺席,其提交结果均以英伟达 GB200 系统为基础,主要因该基准测试聚焦 DeepSeek-R1、GPT-OSS-120B 等开放模型,而非 Gemini 工作负载。