NVIDIA DGX Rubin NVL8 技术解析：面向 AI 训练与推理的加速平台

引言

随着大模型逐步从研究阶段走向规模化应用，AI 基础设施的关注重点正在发生转移。过去几年，行业主要围绕训练效率展开竞争——更大的模型规模、更高的计算密度以及更快的训练速度。然而，随着模型规模和应用场景的扩展，企业对 AI 系统的关注重点逐渐转向推理性能、资源利用效率以及系统在实际业务中的运行表现。NVIDIA DGX Rubin NVL8 系统的设计体现了这种趋势。本文将围绕 DGX Rubin NVL8，从架构设计、性能特征等方面进行分析。

AI基础设施重心的转移：从训练到推理

传统AI基础设施的发展主要集中在训练任务上，优化方向包括提升算力、增加显存容量以及扩展网络带宽。训练阶段的关键指标通常涵盖每秒训练样本数、梯度同步速度以及大模型训练的稳定性。

然而，随着大模型在企业级应用中逐渐普及，推理阶段性能成为衡量系统价值的重要因素。推理任务通常涉及以下特点：

• 高并发请求处理
• 低延迟响应
• 多模型并行执行

这些特点对系统提出了不同的效率要求。单纯的训练能力不足以支撑高并发推理需求，因此，现代AI基础设施在设计上必须兼顾训练与推理的资源分配和调度效率。

DGX Rubin NVL8 的设计充分体现了这一趋势。系统不仅优化训练吞吐量，还重点改进数据流通、显存访问路径以及任务调度策略，使其能够在高并发、多模型推理场景下保持卓越性能。这种“训练与推理均衡”的设计理念，凸显了AI基础设施从单一算力驱动向系统级效率优化的转变。

从Blackwell到Rubin：NVIDIA GPU架构演进之路

理解 DGX Rubin NVL8，需要回顾 NVIDIA 近几代 GPU 架构的演进历程。从 Volta 到 Turing，再到 Ampere、Hopper 以及 Blackwell，每一代架构都在保持 CUDA 生态兼容性的前提下，持续提升 AI 计算密度、内存带宽和多卡互联能力。

那么，为什么新一代选择称为 Rubin 而非 Blackwell Ultra？关键在于以下技术突破：

• 制程升级：Rubin 采用台积电 3nm 工艺，相比 Blackwell 的 4nm 工艺，晶体管密度与功耗效率提升。
• 内存架构革新：引入 HBM4 内存，需要全新内存控制器设计及优化数据通路，以满足更高带宽需求。
• 互联协议升级：NVLink 6.0 带宽翻倍，SerDes 电路和协议栈均进行了重新设计。

这些技术迭代叠加，使 Rubin 成为全新架构，而不仅是 Blackwell 的升级版本，从而为大模型训练与推理提供更高效的底层支撑。

DGX Rubin NVL8核心架构解析

DGX Rubin NVL8 是基于 NVIDIA Rubin GPU 架构构建的高性能多GPU平台，设计目标是支持大规模模型训练与推理任务。其系统架构涵盖 GPU、CPU、互联技术、存储和网络接口，并在设计上进行系统级优化，以提高整体性能和资源利用率。

Rubin GPU

在 DGX Rubin NVL8 系统中，Rubin GPU 是核心计算单元，针对大模型训练与推理进行了优化。每颗 GPU 配备 HBM3e 显存和多级缓存，支持高密度矩阵运算和稀疏计算，既提升训练效率，又保证推理场景下的低延迟数据访问。

系统配置8颗 Rubin GPU，总显存达 2.3 TB，内存带宽高达 160 TB/s。性能指标如下：

• NVFP4 推理模式：400 PFLOPS
• NVFP4 训练模式：280 PFLOPS
• FP8/FP6 训练模式：140 PFLOPS

Intel Xeon 6 处理器

CPU部分采用两颗Intel Xeon 6776P处理器，支持高并发数据处理和任务调度。多核心和高频率配置使CPU能够高效处理数据预处理、任务分配以及GPU管理任务。优化后的内存通道和PCIe 6.0接口确保CPU与GPU间低延迟的数据传输，为训练与推理提供稳定的支持。

在DGX Rubin NVL8 中，CPU与GPU协作进行任务管理和资源调度，确保训练和推理任务在系统中高效运行，同时承担数据加载和预处理工作。

第六代NVIDIA NVLink 技术

DGX Rubin NVL8 采用了第六代NVLink 互联技术。该技术为 8 颗 GPU 提供了高达28.8 TB/s的双向互联带宽。在多卡协同推理场景下，第六代 NVLink 允许 GPU 之间实现近乎无损的内存共享，支持更高效的张量并行（Tensor Parallelism）策略。

这种极高带宽、极低延迟的互联架构，使得 8 颗 GPU 在逻辑上可以被视为一个拥有巨大内存池的统一计算引擎，从而支撑万亿级参数模型在单节点内的平滑运行。

存储与网络接口

DGX Rubin NVL8 配备8个OSFP端口，每个端口连接单端口NVIDIA ConnectX-9 VPI，总带宽可达800 Gb/s。此外，系统配备2个400G QSP112 NVIDIA BlueField-4 DPU，支持InfiniBand和Ethernet协议，适用于多节点分布式训练和推理部署。

结论

DGX Rubin NVL8 反应出AI 基础设施的一个技术发展方向：在训练和推理任务之间实现平衡，通过系统级优化提高整体资源利用效率。Rubin GPU 的高计算密度、NVLink 6.0 的高速互联、以及 CPU、存储与网络的协同设计，为大模型训练和推理提供了可扩展、高效的硬件平台。