🧪 📌本次 MLPerf Inference v6.1(2026 年 9 月 16 日发布)共有 30 家参与者,首次出现英伟达 Vera Rubin 与 AM
- 序号:514
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
🧪
📌本次 MLPerf Inference v6.1(2026 年 9 月 16 日发布)共有 30 家参与者,首次出现英伟达 Vera Rubin 与 AMD Instinct MI350P 的同行评审结果。英伟达方面,,72 颗 GPU 配置的 GB300 在 GPT-OSS-120B 模型上突破 110 万服务器 token / 秒;同时发布 72 颗 GPU 的 VR200 系统 preliminary results,在 DeepSeek-R1 上达 120 万服务器 token / 秒,持续验证其系统与软件层面的领先优势,。 📌AMD 方面,与 Crusoe 合作的;72 颗 MI355X 的商用级配置在 GPT-OSS-120B 上也突破 95 万服务器 token / 秒,MI355 系列表现超预期,证明 AMD 加速器在推理部署场景的竞争力提升,但当前代 GPU 的规模化仍需定制化开发,后续 MI450 Helios 有望降低集群扩展门槛。 📌英特尔(INTC)仍聚焦至强 6 CPU 与 Arc Pro B70 GPU,新增端到端 RAG(检索增强生成)基准测试,但。 📌谷歌 TPU(张量处理器)再次缺席,其提交结果均以英伟达 GB200 系统为基础,主要因该基准测试聚焦 DeepSeek-R1、GPT-OSS-120B 等开放模型,而非 Gemini 工作负载。
总体总结
主题正文
- 📌本次 MLPerf Inference v6.1(2026 年 9 月 16 日发布)共有 30 家参与者,首次出现英伟达 Vera Rubin 与 AMD Instinct MI350P 的同行评审结果。
- 英伟达方面,,72 颗 GPU 配置的 GB300 在 GPT-OSS-120B 模型上突破 110 万服务器 token / 秒;
- 同时发布 72 颗 GPU 的 VR200 系统 preliminary results,在 DeepSeek-R1 上达 120 万服务器 token / 秒,持续验证其系统与软件层面的领先优势,。
- 📌AMD 方面,与 Crusoe 合作的;
- 72 颗 MI355X 的商用级配置在 GPT-OSS-120B 上也突破 95 万服务器 token / 秒,MI355 系列表现超预期,证明 AMD 加速器在推理部署场景的竞争力提升,但当前代 GPU 的规模化仍需定制化开发,后续 MI450 Helios 有望降低集群扩展门槛。
- 📌英特尔(INTC)仍聚焦至强 6 CPU 与 Arc Pro B70 GPU,新增端到端 RAG(检索增强生成)基准测试,但。
- 📌谷歌 TPU(张量处理器)再次缺席,其提交结果均以英伟达 GB200 系统为基础,主要因该基准测试聚焦 DeepSeek-R1、GPT-OSS-120B 等开放模型,而非 Gemini 工作负载。