NVIDIA Spectrum-X:开放的 AI 原生以太网为超大规模 AI 树立标准,现已支持 MRC

行业洞察超擎数智

NVIDIA Spectrum-X 开放 MRC 传输协议:经 OCP 开放规范发布,OpenAI 与两座前沿 LLM 专用 AI 工厂已部署,故障绕行微秒级,多平面网络扩展至数十万卡。

多路径可靠连接(Multipath Reliable Connection,MRC)是一种新型传输协议,率先在生产环境中验证、并在 NVIDIA Spectrum-X 以太网硬件上完成优化,现已向业界开放。

打造全球最强大人工智能工厂的竞赛,亟需与人工智能自身雄心相匹配的网络基础设施。

NVIDIA Spectrum-X 以太网横向扩展基础设施,正站在这场竞赛的最前沿。作为当今最先进的 AI 网络技术,它已被众多在性能、韧性与规模上不容妥协的行业领军者收入麾下——其中包括 OpenAI、Microsoft 与 Oracle。

NVIDIA、Microsoft 与 OpenAI 等公司联手推出了多路径可靠连接(Multipath Reliable Connection,MRC)——一种新型 RDMA 传输协议,走在了行业前列。MRC 让一条 RDMA 连接可以把流量分摊到多条网络路径上,为大规模 AI 训练网络带来更高的吞吐量、更均衡的负载分摊和更强的可用性。

打个比方:这就好比把横穿城市的单车道公路,改造成布局合理的棋盘式街道网,再配上一款实时导航应用——遇到拥堵或封路,司机随时可以绕行。

“在 Blackwell 一代上部署 MRC 非常成功,这离不开与 NVIDIA 的紧密协作。”OpenAI 工业计算负责人 Sachin Katti 表示,“MRC 的端到端方案帮我们避开了许多常见的网络减速与中断问题,让大规模前沿模型训练始终保持高效。”

此外,Microsoft 与 NVIDIA 多年来持续合作,共同推进下一代 AI 所需的基础设施。Microsoft Fairwater 与 Oracle 云基础设施(OCI)Abilene 数据中心,是两座专为训练和部署最前沿大语言模型而打造的超大型 AI 工厂,二者都依靠 MRC 满足性能、规模与效率要求。NVIDIA Spectrum-X 以太网正适合这样的环境,为大规模 AI 模型与应用的稳定运行打下所需的网络基础。

MRC 率先在生产环境中得到验证,性能也在 NVIDIA Spectrum-X 以太网硬件上完成了优化,如今已作为开放规范通过开放计算项目(OCP)发布。这正体现了 Spectrum-X 以太网平台的实力:专用硬件、深度遥测与智能网络管控协同配合,让一个新协议——也就是规定数据如何在网络上两台系统之间传输的一组规则——从概念一路走进超大规模 AI 的生产现场。

MRC 把流量负载均衡到所有可用路径上,确保每张 GPU 在整个训练期间都拿得到所需带宽,GPU 利用率因此始终保持在高位;即使出现拥塞,它也能实时避开过载路径,稳稳守住高带宽。

一旦发生丢包,智能重传机制便会快速而精准地完成恢复,把短暂中断对长时间训练任务的影响降到最低,避免 GPU 空转。

管理员还能对流量路径进行细粒度的可视与管控,既简化日常运维,也能在大规模部署中更快排查故障。

部署在 Spectrum-X 以太网上的 MRC,从设计之初就为超大规模下的韧性而优化。它的故障绕行(failure bypass)技术只需几微秒,就能发现网络路径故障,并在硬件层面自动为流量改道。

这项技术对 AI 训练集群尤为关键:数千张 GPU 必须步调一致,哪怕一次短暂的网络中断,都可能拖慢甚至打断整个训练任务。Spectrum-X 以太网以硬件级的响应速度防患于未然,让流量沿着精准的路径,在超大规模 AI 网络中持续奔流。

通向超大规模 AI 工厂的另一项关键创新,是多平面网络设计——OpenAI 已在 Spectrum-X 以太网上将 MRC 与之配合部署。多平面网络由多个彼此独立的网络(即“平面”,plane)组成,每个平面都为 GPU 之间提供一条备用通信路径。

NVIDIA Spectrum-X Multiplane 能力为此提供硬件加速的跨平面负载均衡,让这一架构在不牺牲性能的前提下,进一步推高韧性与规模——扩展到数十万张 GPU 时,时延依然稳定在可预期的低位。

在 Spectrum-X 以太网上,客户可以按需选择 RDMA 传输模型。无论是 Spectrum-X 以太网 Adaptive RDMA、MRC,还是其他自定义协议,都能在 NVIDIA ConnectX SuperNIC 与 Spectrum-X 以太网交换机上原生运行,并支持超大规模的多平面网络设计。

支撑当今最大 AI 集群的,正是这样一套 Spectrum-X 以太网软硬件基础设施——它让客户能够灵活地为自己的负载挑选合适的传输方案。

MRC 传输协议就是最新的例证:业界正把 Spectrum-X 以太网当作一个灵活、可组合的平台,融入现代 AI 基础设施的方方面面。

随着 AI 工厂不断扩张,网络要做的远不止快速搬运数据——它还必须智能、有韧性,并且建立在开放标准之上。这三点,NVIDIA Spectrum-X 以太网全部做到;而有了 MRC,它将继续为先进 AI 网络树立标准。

NVIDIA 与 AMD、Broadcom、Intel、Microsoft 和 OpenAI 合作开发了 MRC。