技术博客

沉淀 AI 算力、无损网络、高速互联、集群验收和 AIDC 工程实践,帮助团队更快识别问题、验证方案和复用经验。

NVIDIA NIM:通过微服务加速生成式 AI 部署
技术文章

NVIDIA NIM:通过微服务加速生成式 AI 部署

NVIDIA NIM(Inference Microservices) 是 NVIDIA AI Enterprise 的一部分,它是一组易于使用的推理微服务,可

查看详情
在L20集群上实践FP8精度的训练及推理
技术文章

在L20集群上实践FP8精度的训练及推理

我们在L20显卡上进行了实验,以评估FP8在实际应用中的可行性和性能表现。研究结果表明,使用FP8进行训练和推理可以在不显著损失模型精度的前提下,大幅提升计算效

查看详情
借助加速网络实现数据中心现代化
技术文章

借助加速网络实现数据中心现代化

加速网络将 CPU、GPU、DPU(数据处理器)或 SuperNIC 组合到专为设计用于优化网络工作负载的加速计算网络架构。它使用专用硬件来卸载要求严苛的任务,

查看详情
超擎数智800G/400G InfiniBand NDR网络产品应用与连接方案
技术文章

超擎数智800G/400G InfiniBand NDR网络产品应用与连接方案

超擎数智凭借对高速率网络发展趋势的理解,和丰富的高性能网络项目实施经验,基于NVIDIA Quantum-2 InfiniBand平台为客户提供NDR (Nex

查看详情
基于 NVIDIA DOCA 2.6 实现高性能和安全的 AI 云
技术文章

基于 NVIDIA DOCA 2.6 实现高性能和安全的 AI 云

NVIDIA DOCA 2.6 引入了 NVIDIA BlueField 网络平台的新增功能和增强功能,可实现高性能和安全的 AI 云,从而大规模加速数据中心工

查看详情
借助 NVIDIA DOCA 2.5 提供高效、高性能的 AI 云
技术文章

借助 NVIDIA DOCA 2.5 提供高效、高性能的 AI 云

与 NVIDIA 交换机、BlueField DPU 和 SuperNIC 一起,DOCA 2.5 也是为支持要求严苛的 AI 工作负载而构建共同设计平台的重要

查看详情
大模型时代的NVIDIA网络计算
技术文章

大模型时代的NVIDIA网络计算

在生成式AI里面,可以用NVLink,也可以用InfiniBand,但是在生成式AI云上面,还要提供一些云的服务,所以会有一些用户比较倾向于用以太网。NVIDI

查看详情
NVIDIA 200G HDR Splitter H-Cable使用场景及应用优势
技术文章

NVIDIA 200G HDR Splitter H-Cable使用场景及应用优势

NVIDIA 200G HDR Splitter H-Cable这款线缆通过更好的方式去解决spine交换机和leaf交换机之间的端口连接问题,极大提升了IB交

查看详情
DGX服务器集群架构系统为高性能网络提供超强性能
技术文章

DGX服务器集群架构系统为高性能网络提供超强性能

DGX 服务器集群架构的关键硬件需求对于实现高算力的AI训练和科学计算至关重要。不同型号的DGX 服务器配备不同的硬件组件,以满足高算力需求和网络通信要求。从服

查看详情