400-0698-860

新闻中心

洞悉超擎数智品牌力与AI变革

NDR解决方案:构建超强网络性能

时间:2024-11-26
来源:超擎数智
阅读量:227
分享:

在人工智能技术迅速发展的今天,以ChatGPT为代表的AI技术正在改变我们的生产和生活方式。随着训练数据集的扩大和深度学习算法的优化,大型语言模型的训练对计算资源的需求日益增加。NVIDIA的Quantum-2 InfiniBand平台和NDR网络解决方案,为AI开发者和科研人员提供了超强的网络性能,以应对这些挑战。

 

超擎数智NDR网络解决方案

 

超擎数智基于NVIDIA Quantum-2 InfiniBand平台,为客户提供NDR (Next Data Rate)网络解决方案,包括:

  • Quantum-2 InfiniBand 800G交换机(2x400G NDR接口)
  • ConnectX-7 InfiniBand 主机网卡
  • LinkX InfiniBand光连接件

这些组件共同为高性能计算、超大规模云数据中心、人工智能等领域构建低延迟、高带宽的网络性能。

 

 

Quantum-2 InfiniBand 交换机

 

超擎数智提供的QM9700和QM9790交换机,采用1U标准机箱设计,具有以下特点:

  • 32个800G物理接口,支持64个NDR 400Gb/s InfiniBand端口
  • 第三代NVIDIA SHARP技术,高级拥塞控制,自适应路由和自我修复网络技术
  • 与上一代HDR产品相比,实现两倍端口速度,三倍端口密度,五倍系统容量,32倍AI加速能力

 

QM9700和QM9790交换机支持风冷式和液冷式,内部管理和外部管理,每台交换机能够承载51.2Tb/s的双向聚合带宽,支持超过每秒665亿数据包的吞吐能力。

 

 

Quantum-2 ConnectX-7智能网卡

 

超擎数智提供的NVIDIA ConnectX7智能网卡,利用NVIDIA Mellanox Socket Direct@技术,实现32通道的PCIe Gen4。ConnectX-7基于7纳米工艺设计,数据传输速率是前代产品的两倍,同时提升了RDMA GPUDirect® Storage、GPUDirect RDMA 和网络计算的性能。

 

LinkX InfiniBand光连接件

 

超擎数智提供灵活的400Gb/s InfiniBand光连接方案,包括:

  • 单模和多模收发器
  • MPO光纤跳线
  • 有源铜缆(ACC)和无源铜缆(DAC)

这些连接件满足搭建各种网络拓扑的需求,包括风冷固定配置交换机和液冷横块化交换机。

>配有带鳍设计的 OSFP 连接器的双端口收发器适用于风冷固定配置交换机,而配有扁平式OSFP 连接器的双端口收发器则适用于波冷横块化交换机和 HCA 中。

>在交换机互连上,可选择采用全新OSFP封装2xNDR(800Gbps)光模块进行两台QM97XX交换机的互连,带鳍的设计,可以大大提高光模块散热性。

>交换机和HCA的互联上,交换机端采用OSFP封装2xNDR(800Gbps)带鳍光模块,网卡端采用带有扁平OSFP400Gbps光模块,MPO光纤跳线可提供3-150米,一对二分光器光纤可提供3-50米。

 

 

交换机到HCA的连接也提供DAC(最长1.5米)或者ACC(最长3米)的解决方案,一对二式分接线缆可用于交换机的一个OSFP端口(配备两个400Gb/s infiniBand端口)和两个独立的400Gb/S HCA。一分四式分接线缆可用于连接交换机的一个OSFP交换机端口和四个200Gb/S HCA。

 

NDR方案优势

 

NVIDIA Quantum-2 InfiniBand平台的每个端口可实现400Gb/s的传输速度,通过NVIDIA端口拆分技术,实现了:

  • 两倍的端口速度
  • 三倍的交换机端口密度
  • 五倍的交换机系统容量

SHARPV3技术通过可扩展网络为大型数据聚合创造近乎无限的可扩展性,支持多达64个并行流,AI加速能力提升32倍。使用NDR设备可降低网络复杂度,提高效率,减少后续升级成本。