英伟达发布 CUDA Toolkit 13.5:正式支持 Vera Rubin 架构并升级多 GPU 通信

英伟达发布 CUDA Toolkit 13.5,为下一代 Vera Rubin 架构提供生产级支持,并引入 CUDA Tile 与 MPS v3 机制,全面提升多 GPU 通信效率与资源调度精细度。

朋克君
发布者朋克君
预计阅读 3 分钟
我要投稿
AI 摘要
约 1 分钟

快速了解本文

01

CUDA Toolkit 13.5 正式发布,全面支持 Vera Rubin 架构。

02

引入 CUDA Tile 机制优化多 GPU 通信与计算融合。

03

MPS v3 升级支持加权时间片及 SM 分区负载均衡。

本摘要由 AI 辅助整理,请以正文内容为准。

数智朋克讯 当地时间 2026 年 11 月 4 日,英伟达正式发布 CUDA Toolkit 13.5。本次更新的核心亮点是为下一代 AI 计算平台 Vera Rubin 架构提供正式可用(GA)支持,标志着该架构从早期开发者预览阶段正式进入企业生产环境部署,同时全面升级了多 GPU 通信与资源调度能力。

01底层计算与多 GPU 协同优化

在底层计算层面,CUDA 13.5 针对 Vera Rubin 架构上的 NVFP4 和 MXFP8 低精度矩阵运算进行了优化。通过更新 cuBLAS 的矩阵乘法启发式策略和内核调优机制,新版本无需针对每种计算形状单独进行自动调优即可提高吞吐量,有效覆盖混合专家模型(MoE)等大规模 AI 训练场景。这表明英伟达正在为下一代 AI 芯片的大规模训练和推理铺平底层软件道路。

多 GPU 协同方面,新版本引入 CUDA Tile 机制,支持在计算内核内部直接访问其他 GPU 的显存,并支持在 NVSwitch 网络中执行跨 GPU 数据归约和写入操作。该机制将 GPU 间的数据通信与计算操作融合在同一内核中,有望显著降低大规模分布式训练中的通信开销。

02GPU 调度与开发工具升级

GPU 调度方面,NVIDIA 多进程服务(MPS)升级至 v3 版本,新增加权时间片机制,允许管理员为 MPS 服务器设置更长的基础计算时间片并独立调整 GPU 切换频率。同时,MPS v3 加入了流式多处理器(SM)分区负载均衡功能,任务可借用其他分区闲置的 SM 资源。结合局部域(Locality Domain)新的资源划分策略,开发者可在各局部域分配相同数量的 SM 或将补充 SM 纳入计算分区,为多租户或复杂混合负载环境提供了更灵活的控制手段。

开发工具与生态组件同步迎来更新。CUDA 13.5 首次以公开预览形式推出 NVIDIA Nsight Perf SDK for AI,为长时间运行的 AI 任务提供常开式性能分析能力,支持通过 Perfetto 查看结果。此外,CUDA Python 升级至 1.2 版本,CCCL 升级至 3.5 版本,丰富了底层组件库功能。

03平台支持与驱动变更

在平台与部署层面,Windows 平台对 Rubin 架构的驱动模型支持范围进行了调整,从该架构开始不再支持 TCC 模式,仅支持 WDDM 和面向纯计算场景的 MCDM 模式。Windows on Arm 支持则扩展至 NVIDIA DGX Station for Windows。英伟达同步发布了 R620 系列数据中心 GPU 驱动,且驱动不再作为 Toolkit 的内置组件提供,开发者需分别获取和独立安装。

RELATED STORIES

继续阅读

围绕「CUDA Toolkit」,继续阅读相关内容。

ARTICLE RECORD

转载说明

转载请注明文章出处。

TOPICS · 05

文章标签