400-0698-860

新闻中心

洞悉超擎数智品牌力与AI变革

L40S GPU 助力生成式AI和可视化工作负载

时间:2023-09-15
来源:本站编辑
阅读量:410
分享:

NVIDIA L40S GPU将成为生成式AI计算工作负载的得力助手。生成式AI正在深刻改变着各行各业的工作方式,涵盖了文本、图像、视频生成、聊天机器人、游戏开发、产品设计以及医疗等领域。企业正越来越需要强大的计算资源来应对不断增加的复杂且多样的应用需求,而配备NVIDIA L40S GPU的OVX服务器正是为了满足这一需求而设计的,能够加速AI、图形和视频处理工作负载,提供卓越的性能表现。

 

NVIDIA OVX服务器的每台系统最多可以搭载8块NVIDIA L40S GPU,每块GPU配备48GB的显存。这使得该服务器能够轻松应对大规模、高强度的计算任务。

 

 

基于Ada Lovelace架构的L40S,配备有48GB的GDDR6显存和846GB/s的带宽。在第四代Tensor核心和FP8 Transformer引擎的加持下,可以提供超过1.45 petaflops的张量处理能力。

 

对于算力要求较高的任务,L40S的18,176个CUDA核心可以提供近5倍的单精度浮点(FP32)性能,从而加速复杂计算和数据密集型分析。此外,为了支持如实时渲染、产品设计和3D内容创建等专业视觉处理工作,英伟达还为L40S 还配备了142个第三代RT核心,可以提供212 teraflops的光线追踪性能。

 

 

对于具有数十亿参数和多种模态的生成式AI工作负载,L40S可实现高达1.2倍的推理性能提升,以及高达1.7倍的训练性能提升。

 

这款全新的 GPU 和 OVX 服务器适用于人工智能大模型训练和推理、三维设计和可视化、视频处理、工业数字化等多种用途。它们能够增强生成式 AI、图形和视频处理能力,满足不断增长的算力需求。NVIDIA L40S GPU预计将于今年秋季上市。