技术博客

沉淀 AI 算力、无损网络、高速互联、集群验收和 AIDC 工程实践,帮助团队更快识别问题、验证方案和复用经验。

利用 CPO 技术扩展 AI 工厂,提高能效
技术文章

利用 CPO 技术扩展 AI 工厂,提高能效

随着 AI 重新定义计算格局,网络已成为构建未来数据中心发展的关键支柱。大语言模型的训练性能不仅取决于计算资源,更受到底层网络敏捷性、容量和智能程度的影响。

查看详情
AI 算力下的光模块革命:Scale-Up 与 Scale-Out 需求拆解与CPO技术
技术文章

AI 算力下的光模块革命:Scale-Up 与 Scale-Out 需求拆解与CPO技术

当大模型参数突破万亿、AI集群规模迈向10万卡级,算力基础设施正面临一场“架构风暴”——Scale-Up(纵向扩

查看详情
NVIDIA DGX Spark发售前的终极解答,11个问题消除你的决策疑虑!
技术文章

NVIDIA DGX Spark发售前的终极解答,11个问题消除你的决策疑虑!

1. DGX Spark是什么?   NVIDIA DGX Spark 属于专为AI时代打造的一款桌面级AI超级计算机,从

查看详情
全面梳理FP8与FP4不同精度训练推理技术与应用
技术文章

全面梳理FP8与FP4不同精度训练推理技术与应用

随着今年Deepseek的爆火出圈,很多概念被大众广泛熟知,例如模型精度,模型精度是衡量机器学习模型性能的重要指标之一,不同的精度类型和评估指标可以帮助我们更全

查看详情
下一代推理优化技术:高性能网络驱动的PD分离与KV Cache Offload测试(中)
技术文章

下一代推理优化技术:高性能网络驱动的PD分离与KV Cache Offload测试(中)

为全面验证高性能网络与PD分离、KV Cache Offload这两项技术的性能优势与应用价值,NVIDIA、超擎数智、联想、DaoCloud、纳多德五家公司联

查看详情
下一代推理优化技术:高性能网络驱动的PD分离与KV Cache Offload测试(上)
技术文章

下一代推理优化技术:高性能网络驱动的PD分离与KV Cache Offload测试(上)

近年来,大规模模型在各类应用场景中快速落地,带动了推理需求的高速增长。随着模型参数量不断提升和用户请求并发数持续攀升,如何提升推理性能成为业界关注的核心问题,在

查看详情
AI for Science:AI 为多个科学研究领域注入新动能
技术文章

AI for Science:AI 为多个科学研究领域注入新动能

随着 AI 技术的广泛应用,AI 正在成为科学研究的引擎。NVIDIA 作为重要的技术推手,持续驱动着 AI 系统解锁更多领域的科学突破。  

查看详情
代理式 AI 与 AI 智能体:技术架构及行业落地应用详解
技术文章

代理式 AI 与 AI 智能体:技术架构及行业落地应用详解

代理式 AI 的时代已经到来。如今,代理式 AI 已经驱动应用迈向深度场景融合与规模化落地。这波演进浪潮标志着 AI 能力向自主执行的跃迁。本文将系统解析代理

查看详情
NVIDIA DGX Spark:桌面级AI超算,让千亿大模型触手可及!
技术文章

NVIDIA DGX Spark:桌面级AI超算,让千亿大模型触手可及!

在 AI 大模型参数突破万亿的今天,开发者面临本地算力不足、云端迁移成本高、数据隐私风险等难题,NVIDIA DGX Spark 的诞生,彻底打破这一困局。

查看详情