芯片与算力
Vera Rubin 首次交卷 MLPerf,有一项仍待核验
NVIDIA 在 11 月 16 日称 Vera Rubin 拿下本轮全部 MLPerf Training v6.1 项目,并在新的 MLPerf Endpoints 里给出推理能效结果。训练数字来自已公布的提交;Kimi K3 那组对比,公司写明 Vera Rubin 一侧还在等待 MLCommons 核验。

NVIDIA 在 11 月 16 日称,Vera Rubin 第一次出现在 MLPerf 成绩里,并在训练和推理项目上领先。同一天宣布的 Rubin HPC 是另一款预计 2028 年供货的芯片,不在这篇成绩里。
训练方面,公司称自己是本轮唯一在每一个 MLPerf Training v6.1 项目上都提交了结果的平台,覆盖语言模型、图像生成、推荐和强化学习后训练。Vera Rubin NVL72 相对上一代 GB300 NVL72,每块 GPU 的性能最多到 2 倍。这是早期结果,比较对象是 NVIDIA 自己的上一代系统。
在 DeepSeek-V3 上,GPU 从 256 块增到 1,024 块,扩展效率约 97%,训练时间从 16 分钟降到约 4 分钟。NVIDIA 还用 GB300 跑到 10,240 块 GPU,称这是本轮最大规模;微软 Azure 的 GB200 也达到同样规模。公司把效率归因于机柜内的 NVLink,以及机柜之间的 InfiniBand 和以太网。
新的 Endpoints 测试看编码和企业流程是否做完,以及在一定响应速度下能输出多少 token。NVIDIA 给出 Kimi K3 的一次对比:在每用户至少每秒 50 token 的前提下,Vera Rubin NVL72 的每瓦吞吐超过 GB300 NVL72 的 10 倍。脚注中的一次运行是,Vera Rubin 使用 32 个加速器、并发 1,024,系统每秒约 4.1 万 token,功耗 100.89 千瓦;GB300 使用 48 个加速器、并发 48,系统每秒约 2,210 token,功耗 60 千瓦。GB300 的结果已经由 MLCommons 核验。Vera Rubin 这一侧标明为临时结果,尚未核验,评审后可能变化。并发和加速器数量并不相同,每瓦数字已经把功耗折进去,但仍要连同这些条件一起看。
文章说有 20 家机构参与训练提交,并点名了 Azure、CoreWeave、Dell、Google Cloud、Oracle 和佛罗里达大学等。
MLPerf 由 MLCommons 组织,厂商提交配置和成绩后按公开规则比较。NVIDIA 称软件栈还会继续优化。在临时结果改为已核验之前,10 倍每瓦吞吐只是公司提交、尚未终审的对比。97% 的扩展效率对应的是 GPU 数量变为 4 倍、时间大约变为四分之一。训练看的是达到目标精度要多久,Endpoints 看的是任务是否做完以及输出速度。
原文链接
- NVIDIANVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance