英伟达在11月17日公布的MLPerf测试结果中,首次展示Vera Rubin平台的训练与智能体推理表现。其中,Vera Rubin NVL72在训练测试中的单GPU性能最高达到GB300 NVL72的两倍;一项暂定推理结果显示,在相同响应速度下,其每瓦吞吐量超过后者的10倍。理解这些数字,需要区分训练速度、集群扩展效率与推理能效三个口径。
训练成绩覆盖全面,单卡提升仍有任务边界
MLPerf Training衡量系统将不同AI模型训练至目标准确率所需的时间。英伟达在Training v6.1各项基准中均取得领先,也是本轮唯一提交全部项目结果的平台,覆盖大语言模型、图像生成、推荐系统以及强化学习后训练。
首次参测的Vera Rubin NVL72,相对经过充分优化的GB300 NVL72,单GPU性能最高达到两倍。“最高”意味着这是特定测试中的最佳比较结果,不能据此将所有模型的训练时间统一折半。对基础设施采购而言,更有参考意义的是目标模型、准确率要求与实际配置是否接近测试条件。
训练提速的直接价值,是缩短模型迭代周期。不过,达到基准要求的速度与模型上线后的业务效果属于不同指标:前者改善研发节奏,后者仍取决于模型能力和应用验证。
近97%扩展效率,说明互联与软件同样关键
在DeepSeek-V3测试中,Vera Rubin NVL72从256块GPU扩展至1024块,训练时间由16分钟缩短至约4分钟,扩展效率约97%。这组结果说明,在该测试规模与配置下,增加计算资源后,系统保留了接近线性的加速能力。
大型训练任务需要GPU交换数据、同步工作。英伟达使用NVLink连接系统内部GPU,再通过Quantum-X800 InfiniBand和Spectrum-X以太网连接不同系统,并配合软件优化。单卡性能之外,通信与任务协同决定新增算力能否有效转化为时间收益。
本轮更大规模的提交来自GB300系统,使用10240块GPU;微软Azure也以GB200系统提交了相同GPU数量的结果。这些成绩展示了英伟达平台的大规模运行能力,但不能与Vera Rubin的1024块GPU扩展测试混为同一组证据,也不能直接外推其在万卡规模下的效率。
推理能效超过10倍,须保留暂定结果限定
英伟达首次参加MLPerf Endpoints测试。该测试面向智能体编程与企业工作流,并检查智能体能否正确完成任务。智能体在一次任务中可能多次推理、调用工具和检查结果,因此吞吐量、响应速度与完成质量需要一起衡量。
针对面向智能体工作流的开放模型Kimi K3,一项暂定结果显示,Vera Rubin NVL72在与GB300 NVL72保持相同响应速度时,每瓦吞吐量超过其10倍。这里比较的是单位功率所能支撑的处理能力,既不是单纯的速度倍数,也不等于整个数据中心成本按同等比例下降。
从这些条件看,这项结果更直接的意义在于:当可用电力构成约束时,系统有望在既定响应要求下承载更多智能体工作。实际部署能否获得相近收益,仍要看模型、请求长度、并发量及任务正确率是否与测试条件相符。
采购判断应落到具体负载与可复现条件
本轮共有20家合作伙伴机构参与英伟达平台的训练测试提交,涉及云服务商、服务器厂商和研究机构。广泛参与说明平台支持多种部署与优化路径,但提交数量本身不能替代客户自身的负载验证。
我们的判断是,Vera Rubin此次值得注意的变化,是同时给出了单GPU训练性能、集群协同效率和智能体推理能效三类证据;三者分别对应研发周期、资源利用和电力约束,不能合并成一个适用于所有场景的“性能倍数”。
英伟达表示将继续优化CUDA软件栈,这属于后续优化方向,不能作为已经兑现的额外性能。接下来更应观察Kimi K3暂定结果的最终状态、完整测试配置,以及目标业务在相同响应与正确率要求下的表现。缺少这些条件,仅凭峰值倍数判断采购回报,容易高估可迁移到生产环境的收益。







