NVIDIA Vera Rubin 平台 MLPerf 首秀:训练性能翻倍,智能体推理能效提升超 10 倍

NVIDIA Vera Rubin 平台在 MLPerf 基准测试中首次亮相,其 NVL72 系统训练性能较上一代提升 2 倍,并在智能体推理场景下实现每瓦吞吐量超 10 倍的代际跃升,同时验证了万卡级别集群的近线性扩展效率。

朋克君
发布者朋克君
预计阅读 3 分钟
我要投稿
AI 摘要
约 1 分钟

快速了解本文

01

Vera Rubin NVL72 每 GPU 训练性能较 GB300 提升多达 2 倍。

02

万卡集群扩展效率达 97%,训练时间从 16 分钟缩短至 4 分钟。

03

智能体推理每瓦吞吐量实现超过 10 倍的代际能效提升。

本摘要由 AI 辅助整理,请以正文内容为准。

NVIDIA Vera Rubin 平台在 MLPerf 基准测试中首次亮相,在训练、后训练和智能体推理(agentic inference)方面取得领先性能。根据 MLPerf Training v6.1 及 Endpoints v1.0 的测试结果,Vera Rubin NVL72 系统的每 GPU 训练性能较高度优化的上一代 GB300 NVL72 提升多达 2 倍,同时在智能体 AI 的每瓦吞吐量上实现了超过 10 倍的代际提升。

01训练性能代际提升与全面覆盖

在 MLPerf Training v6.1 中,NVIDIA 是唯一在所有基准测试中均有提交结果的平台,测试范围涵盖大语言模型、图像生成、推荐系统和强化学习后训练。共有包括 ASUS、Azure、Dell、Google Cloud 在内的 20 家合作伙伴参与了此次提交,展示了该平台及开源库的生态支持能力。核心数据表明,Vera Rubin NVL72 在首秀中,每 GPU 性能比高度优化的 GB300 NVL72 系统高出多达 2 倍。

02万卡规模与近线性扩展效率

除了单节点性能,Vera Rubin 在超大规模集群扩展中同样表现出极高的效率。在 DeepSeek-V3 基准测试中,Vera Rubin NVL72 从 256 个 GPU 扩展到 1024 个 GPU 时,扩展效率约为 97%,训练时间从 16 分钟缩短至约 4 分钟。NVIDIA 还在 10,240 个 GPU 的规模上运行了该测试,这是本轮测试的最大规模。该万卡集群结合了 NVLink、Quantum-X800 InfiniBand 和 Spectrum-X 以太网进行扩展。作为对比,微软 Azure 使用 10,240 个 GB200 系统 GPU 匹配了这一规模。这种近线性的扩展效率证明了 NVLink 与相关网络技术在超大规模集群中的协同有效性,为训练下一代超大模型提供了基础设施验证。

03智能体推理能效突破

在首次提交的 MLPerf Endpoints v1.0 中,Vera Rubin 重点展示了其在智能体 AI 场景下的能效表现。针对为智能体工作流构建的大型开放模型 Kimi K3 的临时结果显示,在相同响应速度下,Vera Rubin NVL72 系统的每瓦吞吐量是 GB300 NVL72 的 10 倍以上,该结果尚待 MLCommons 最终验证。这种超过 10 倍的每瓦吞吐量提升,直接回应了 AI 数据中心受限于功耗的核心痛点。此外,Vera Rubin 在 SemiAnalysis AgentX 和 Artificial Analysis AgentPerf 等独立基准测试中,涵盖预训练、后训练、智能体推理及 HPC 工作负载,同样表现出领先性能。

RELATED STORIES

继续阅读

围绕「NVIDIA Vera Rubin」,继续阅读相关内容。

ARTICLE RECORD

转载说明

转载请注明文章出处。

TOPICS · 05

文章标签