为 Vera Rubin 而生:NVIDIA Spectrum-6 亮相超大规模 AI 工厂
NVIDIA Spectrum-6 以太网交换系统容量为上一代 2 倍,作为 Vera Rubin 平台的组成部分进入超大规模 AI 工厂,CoreWeave、Microsoft 等率先引入;10 万张 GPU 以上部署网络效率最高 95%。
AI 已进入超大规模(gigascale)时代。
全球最先进的 AI 工厂正把数十万张 GPU 与 CPU 汇聚到一起,训练前沿模型、驱动智能体 AI,以前所未有的规模生成智能。到了这个量级,网络就成为驱动 Token 生成的关键算力倍增器。
NVIDIA Spectrum-6 是一套 102.4 Tb/s 的以太网交换系统,容量为上一代系统的 2 倍,作为 NVIDIA Vera Rubin 平台的组成部分打造——如今,它正陆续进入全球各地的超大规模 AI 工厂,标志着一个网络里程碑。
Spectrum-6 是下一代 NVIDIA Spectrum-X 以太网平台的基石,为把 AI 工厂当作一套端到端计算系统来运营,提供所需的带宽、规模与智能。
头部 AI 基础设施建设者率先行动
全球领先的 AI 基础设施建设者——包括 CoreWeave、Microsoft、Nebius、Oracle 云基础设施(OCI)、SpaceXAI 与 Tesla——将率先引入 Spectrum-6,为其 AI 工厂提速。
对云服务商来说,Spectrum-6 意味着更多算力可以作为一个统一的高性能资源来运行,帮助客户更快地训练模型、部署推理服务。
“CoreWeave 就是为最严苛的 AI 负载而建的,而网络是在大规模下兑现这种性能的核心。”CoreWeave 网络产品总监 Min Jun 表示,“把 NVIDIA Spectrum-6 与液冷 Spectrum-X 以太网基础设施引进我们的 AI 工厂,将帮助我们交付客户训练前沿模型、更快部署推理所需的带宽、韧性与效率。”
“在超大规模下,性能归结为协调:让每一张 GPU 步调一致,一条慢链路才不会拖住整个作业。”Nebius 全球合作副总裁 Laurelle Roseman 表示,“这正是 NVIDIA Spectrum-6 所要解决的问题,也是我们早早引入它的原因——当客户最严苛的负载不断放大时,这张网络依然保持快速与韧性。”
对自建基础设施的 AI 先锋企业而言,Spectrum-6 意味着更多 GPU 步调一致地工作、严苛的集合通信操作期间更高的利用率,以及长时间运行作业更强的韧性。
纵观各类用例,结果就是:更快拿到结果,以及在惊人规模上更好的经济性。
CoreWeave、Microsoft、Nebius 与 OCI 将成为首批部署搭载 Spectrum-6 的 NVIDIA Vera Rubin 基础设施的提供商,把这一平台带给更广泛的开发者、初创公司与企业社区。
AI 性能是一个网络问题
仅凭 GPU 峰值性能,已无法预测一座 AI 工厂的性能。
大规模训练与推理负载,依赖数千张加速器持续不断地交换数据。集合通信(collective communications)是跨 GPU 同步工作的基础操作,会产生密集的东西向流量,而且常常是许多系统同时发送。
以太网最初是为企业应用,以及用户、服务器与存储之间的南北向流量设计的,并非为超大规模 AI 那种同步、集合通信密集的通信模式而生。
Spectrum-X 以太网改变了这一点。它专为 AI 而造,把以太网变成一张高性能横向扩展网络,让每张 GPU 的数据供给不断档。
下一代 Spectrum-X 以太网
Spectrum-6 交换芯片与 NVIDIA ConnectX-9 SuperNIC 相组合,构成下一代 Spectrum-X 以太网;它作为 NVIDIA Vera Rubin 的一部分设计,将 NVIDIA Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU 与 Spectrum-6 以太网交换机集结于一体。
Spectrum-6 同时支持可插拔与共封装光学(co-packaged optics)两种形态。此外,Spectrum-6 产品还支持液冷——为整座 AI 工厂提供全面的端到端散热方案,同时提升网络的电源效率。
与现货通用以太网不同,面向 AI 工厂横向扩展的 NVIDIA Spectrum-X 以太网网络平台,把智能交换机、NVIDIA ConnectX-9 SuperNIC 与全栈网络软件组合在一起,全部为 AI 协同设计。平台的高级特性会持续优化流量在网络中的流动方式。
此外,NVIDIA Spectrum-X 技术能智能均衡所有可用路径上的流量、快速绕开故障,并在数据未能抵达目的地时精准恢复。同时,对开放网络操作系统与多种 RDMA 传输模型的支持,让 AI 建设者获得灵活性而不必牺牲性能。
Spectrum-X 以太网正是 NVIDIA“纵向集成、横向开放”路径的体现:在整个计算平台上,跨芯片、系统与软件做协同设计,同时支持标准以太网、开放网络操作系统、开放协议,以及由云服务商、系统制造商与基础设施合作伙伴构成的广泛生态。客户不必先拼装一堆部件、再做事后优化,而是直接得到一套完整的 AI 工厂平台——它的设计目标,就是最快的训练速度与最低的每 Token 成本。
这一路径的实证是:Spectrum-X 以太网的 AI 网络性能最高较现货通用以太网提升 1.6 倍,并在超过 100,000 张 GPU 的部署中保持最高 95% 的网络效率。
硬件加速的 Spectrum-X 多平面拓扑,可将数据中心所需的交换机数量减少了 1.7 倍,进一步提升网络效率。再叠加 Spectrum-X 以太网 Photonics 带来的收益——电源效率提升 5 倍、平均故障间隔(MTBI)改善 10 倍——网络层的持续增强,正把负载加速推向超越单部件优化的高度。


