NVIDIA BlueField-4 STX 存储架构：面向原生 AI 数据平台的基础设施

参考阅读：

• AI-Native Data Platform Architecture | NVIDIA STX
• NVIDIA Launches BlueField-4 STX Storage Architecture With Broad Industry Adoption | NVIDIA Newsroom

引言

2026年在英伟达年度 GTC 大会上，英伟达正式发布面向智能体 AI（Agentic AI）长上下文推理场景的全新存储解决方案：BlueField-4 STX 模块化存储参考架构。这一方案针对传统数据中心存储在 AI 场景中的瓶颈问题进行了系统性优化，为新一代智能体 AI 提供高效、低延迟的专属“存储大脑”，助力大模型与智能体系统的规模化落地。

传统存储的局限性

随着智能体 AI 的发展，模型的上下文窗口从万级逐步扩展到百万级甚至千万级 Token，对存储系统的响应速度和带宽提出了极高要求。传统数据中心存储存在以下短板：

• 响应延迟高、吞吐不足：主打大容量的通用存储无法满足 AI 推理对低延迟访问的需求。
• GPU 利用率下降：上下文数据频繁在存储和 GPU 内存间交换，导致算力浪费，推理吞吐受限。
• HBM 容量有限：GPU 内置 HBM 价格高且容量有限，难以承载长上下文 KV-Cache 和模型权重切片。

而这些问题直接影响智能体 AI 的跨步骤、跨工具协作能力，也成为制约 AI 系统效率的关键瓶颈。

NVIDIA BlueField-4 STX 架构介绍

针对现代数据中心在 AI 推理、训练以及数据分析中面临的存储与算力瓶颈，NVIDIA BlueField-4 STX 架构提供了一整套解决方案，通过软硬件协同优化，实现高性能、低延迟的数据处理能力。

架构核心：BlueField-4 STX 的核心设计理念是将存储节点尽可能靠近计算资源，打通存储与算力之间的传输壁垒。通过这种架构，数据不再需要经过传统繁琐的跨节点传输，而是能直接以高吞吐、低延迟的方式供 GPU 使用，从而显著提升整体计算效率。

关键价值：该架构能够全面支持智能体 AI（Autonomous AI）在全环节的应用，包括推理、训练以及大规模数据分析。在实际场景中，BlueField-4 STX 可以提供高吞吐量的数据访问和极速响应，确保模型在处理大规模数据时不受 I/O 瓶颈限制。

机架级部署：BlueField-4 STX 是首个将 NVIDIA CMX 上下文内存存储平台 集成到机架级解决方案中的架构。通过高性能上下文存储扩展 GPU 内存容量，每秒处理的 Token 数量可提升 5 倍，充分满足超长上下文推理需求。这意味着在处理大规模自然语言模型或多模态 AI 模型时，系统能够保持高效、低延迟的响应。

底层技术

BlueField-4 STX 架构的硬件基础是 Vera Rubin 平台，其核心包括：

• NVIDIA BlueField-4 DPU：集成 Vera CPU，为计算和数据传输提供硬件加速。
• NVIDIA ConnectX-9 SuperNIC：提供高性能、高带宽的网络连接，确保数据在计算节点之间快速流动。
• Spectrum-X 高性能以太网：实现机架级的数据高速互联。

在软件层面，BlueField-4 STX 通过 DOCA 软件开发套件 和 AI Enterprise 软件生态 构建了完整的软硬件协同体系，使得存储与算力可以无缝对接，从而形成真正的一体化存储算力平台。

NVIDIA CMX：GPU 外部上下文存储

CMX 是 STX 架构的核心存储层，主要用于为 GPU 提供高性能、低延迟的外部上下文记忆。作为 GPU 内存的扩展层，它专门存放长上下文的 KV Cache、向量数据库以及模型权重切片等热数据，从而有效支撑大规模计算和快速数据访问。

硬件组成：

• 高密度 NVMe SSD/NAND 池：单 GPU 标配 16TB，单机柜（72 个 Rubin GPU）总容量达 1152TB。
• BlueField-4 DPU：内置 Vera CPU + ConnectX-9 800Gbps 超级网卡，负责存储调度、协议转换与数据加速。
• 高速互联：16TB/s 横向带宽直达 GPU，NVLink-C2C 与 Spectrum-X 提供低延迟组网。
• 全液冷设计：适配 Vera Rubin 机架的高密度部署需求。

核心技术特性：

• 分层存储：

  • HBM 层：存放最活跃小批量上下文与计算中间结果
  • CMX 层：存放百万级 Token 的 KV-Cache 和向量库
  • 后端存储：存放全量冷数据

• DPU 卸载与加速：接管所有存储 I/O、协议转换、数据校验、压缩/解压、加密，CPU 零参与。支持 NVMe-oF、GPUDirect Storage（GDS）、DOCA 存储加速库，实现 GPU 与 CMX 零拷贝访问。

• 上下文感知调度：基于 Token 访问热度与生命周期进行智能预取与换出，支持分片、并行加载和增量更新，避免全量重算。

• 性能指标：每秒处理 Token 数量提升 5 倍，数据摄取速度翻倍，能效比传统 CPU 架构高 4 倍。

BlueField-4 STX 模块化存储架构

STX（Storage eXtension） 是基于 Vera Rubin 平台的机架级存储参考架构，通过紧耦合的计算和存储资源，实现高吞吐、低延迟的 AI 原生数据平台。

底层平台：

STX 架构采用模块化、全液冷机架设计，无需外部电缆即可实现高速互联和热管理优化。核心硬件指标如下：

• 机架规模：单机架包含 18 个计算托盘，配备 72 个 Rubin GPU 与 72 个 BlueField-4 DPU。
• 高性能互联：通过 NVLink 3.6TB/s、Spectrum-X 光子交换机 以及 ConnectX-9 800Gbps 网卡，实现机架内数据的超高速传输。

这种设计确保计算与存储资源紧密耦合，数据无需长距离传输即可被 GPU 高效访问，从而显著降低延迟、提升吞吐。

核心组件

• BlueField-4 DPU：被称为存储的“智能大脑”，完全接管存储路径。提供硬件加速功能，包括 NVMe-oF、GPUDirect、RAID、压缩、加密和重复数据删除。实现存储与计算的深度融合，让数据访问更高效、可靠。

• CMX 上下文内存池：紧耦合部署于每个计算托盘，每个 GPU 对应独立分区，延迟降低一个数量级。支持弹性扩展和统一命名空间，满足大模型推理对超长上下文的需求。

• 软件栈

  1. DOCA：提供存储加速 API 与服务编排能力。
  2. AI Enterprise：集成容器管理、监控与运维工具。
  3. MCP：管理 CMX 内存分片与一致性，确保大规模部署下的稳定性。

部署形态：

• 计算托盘：每个托盘包含 2× Vera Rubin 超级芯片 与 2× BlueField-4 DPU。
• 存储托盘：每 GPU 配置 16TB TLC SSD，单机架总存储容量可达 1152TB。
• 全背板互联：实现高带宽、低延迟的内部通信，机架部署仅需 5 分钟，便于快速扩展与运维。

通过上述设计，BlueField-4 STX 架构实现了从底层硬件到软件栈的端到端优化，为 AI 原生工作负载提供了高吞吐、低延迟、可扩展的机架级存储算力平台。

NVIDIA BlueField-4 STX 的市场趋势

随着生成式 AI 和大模型应用的快速发展，对高性能、低延迟的上下文存储需求不断增长。基于 NVIDIA STX 架构的下一代 AI 基础设施正在形成一个完整的生态体系，涵盖存储、系统制造以及云服务提供商的多方合作。

• 在存储层面，Cloudian、DDN、戴尔科技、Everpure、日立 Vantara、HPE、IBM、MinIO、NetApp、Nutanix、VAST Data 和 WEKA 等领先供应商已加入联合设计，为 STX 提供高性能、可扩展的存储解决方案。
• 系统制造方面，AIC、Supermicro 和 Quanta Cloud Technology (QCT) 等合作伙伴正基于 STX 架构打造优化系统，以满足大模型推理和 AI 训练的高算力需求。
• 在 AI 应用端，多家领先实验室和云服务提供商已计划采用 STX 进行上下文记忆存储，包括 CoreWeave、Crusoe、IREN、Lambda、Mistral AI、Nebius、OCI 和 Vultr。这表明，从研发实验室到云服务市场，STX 架构正在快速获得产业认可。

预计基于 STX 的平台将在今年下半年通过合作伙伴正式推出，面向多种 AI 场景提供支持：

• 智能体 AI（Agentic AI）：支持多轮对话、长文档理解、自主决策及跨工具协作，实现更自然、更智能的人机交互。
• 大模型推理：提供百万 Token 级上下文支持，确保低延迟响应和高并发服务能力。
• 向量数据库：适用于 RAG 系统、检索增强生成及实时语义检索，提升信息访问和生成效率。
• AI 训练：加速大规模数据集加载，并支持 checkpoint 的快速恢复，提高训练效率和资源利用率。

整体来看，STX 架构正在推动 AI 基础设施从单一算力向高性能存储和上下文智能一体化发展，形成完整的技术和市场生态，满足未来大模型和生成式 AI 的复杂需求。

结论

NVIDIA BlueField-4 STX 架构通过模块化、机架级设计，将 GPU 外部上下文存储、DPU 加速与高性能网络紧密结合，构建了端到端优化的 AI 原生数据平台。该架构不仅解决了智能体 AI 长上下文推理和大模型训练中的存储瓶颈，还形成了完整的生态体系，覆盖存储、系统制造和云服务应用。通过高吞吐、低延迟的存储算力协同，STX 为企业和云服务提供商提供了可扩展、智能化的数据基础设施，加速了生成式 AI 与大模型技术的规模化落地。