从训练到生产,NVIDIA 与 CoreWeave 实现智能体 AI 闭环
CoreWeave 上线 Vera Rubin NVL72,Cognition 早期测试 Token 吞吐最高为 GB200 NVL72 的 4.8 倍;Vera CPU 与 Forge 闭合训练到生产回路。
NVIDIA Vera Rubin NVL72 与 Vera CPU 在 CoreWeave 上为 Cognition 等公司加速智能体 AI,也让一段近十年的 NVIDIA 基础设施历程得以延续——这套基础设施历经多代,始终高效、耐用、可互换。
凭借近十年的联合工程积累,CoreWeave 把 NVIDIA 的计算、网络与软件做成了一座专为 AI 而建的云平台——它跨越多代部署,至今仍在持续回本。如今,CoreWeave 正把下一代 NVIDIA 基础设施投入生产。
在旧金山举行的 CoreWeave Fully Connected 大会上,CoreWeave 宣布搭载 Spectrum-X 102.4T 以太网网络的 NVIDIA Vera Rubin NVL72系统正式可用。Devin AI 软件工程师背后的应用 AI 实验室 Cognition,成为首个在 Vera Rubin 上运行生产负载的客户。
CoreWeave 还将提供 NVIDIA Vera——首款为 AI 智能体打造的 CPU。此外,CoreWeave 发布了 CoreWeave Forge:一个在 NVIDIA 加速计算之上训练、评估并改进模型与智能体的协同环境。
“NVIDIA 加速计算的价值能跨越多代。”NVIDIA 超大规模与高性能计算副总裁 Ian Buck 说,“Volta 发布近十年后,CoreWeave 的 NVIDIA V100 GPU 仍在运行客户负载——与此同时,Vera Rubin NVL72 已经投产。这正是 NVIDIA 平台的分量:基础设施能持续创收多年,还能把合适的 GPU 放到合适的负载上。”
Cognition 在 Vera Rubin NVL72 上跑出 4.8 倍 Token 吞吐
Cognition 在 CoreWeave 上为 Devin 承担训练、强化学习与生产推理。九个月里,它在 CoreWeave 上扩展到数千张 GPU,支撑自身的推理负载。
9月初,CoreWeave 收到首批 Vera Rubin NVL72 生产机架。紧接着,Cognition 用一份真实软件工程负载,把 Vera Rubin 的推理性能与 GB200 NVL72 基线做了对比。这份负载取自 FrontierCode 的任务子集,由 AI 智能体实际求解生成。
早期测试中,Cognition 测得在 SWE-2 推理负载上,Vera Rubin NVL72 的总 Token 吞吐最高达到 GB200 NVL72 的 4.8 倍。对 Devin 来说,这意味着实时代码生成更快,多步推理的响应也更灵敏。
“智能体编码是很重的负载:长上下文、高并发,Token 体量一大,每个 Token 的成本就决定了我们能交付什么。”Cognition 创始团队成员 Silas Alberti 说,“把这一切都放在同一个平台上,还有 NVIDIA 和 CoreWeave 的工程师跟我们一起啃硬骨头——这对我们比任何单项规格都重要。”
CoreWeave 宣布 NVIDIA Vera Rubin 在 CoreWeave Cloud 上可用
CoreWeave 宣布 NVIDIA Vera Rubin NVL72 已在 CoreWeave Cloud 上可用,成为最早把这套平台交到客户手上的云服务商之一。
抢先体验的客户可以在 CoreWeave Cloud 上迅速用上 NVIDIA 全栈 AI 工厂平台的性能。CoreWeave 只用几天就为 Cognition 搭起一套生产级 Vera Rubin 集群——这来自 NVIDIA 与 CoreWeave 从基础设施到 Token 交付的全栈协同设计与协作。
算力可通过 CoreWeave Kubernetes Service、SUNK、CoreWeave Mission Control、CoreWeave Sandboxes 与 CoreWeave Inference 来运营。
NVIDIA Vera CPU 将登陆 CoreWeave Cloud,测试显示智能体沙箱启动快 3 倍以上
智能体 AI 从两个方向同时挤压基础设施:服务智能体要的是大规模低时延算力;而通过后训练改进智能体,又需要数千个隔离环境同时运行。
NVIDIA Vera CPU 专为智能体负载打造。衡量智能体 AI 的一个关键指标,是能同时跑多少个隔离的智能体环境,以及数量增长时每个环境是否还能保持稳定的性能。
CoreWeave 部署的 Vera 单机架集成 128 颗 CPU、11,264 个核心,足以承载超过 1.1 万个并发环境(每个环境占 1 核)。借助 CoreWeave Sandboxes,这些环境实现硬件级隔离,并能与其支撑的训练作业并行运行;Spectrum-X 以太网交换机与 BlueField-4 DPU 保障智能体之间通信安全、高性能、低时延。
测试中,CoreWeave 在 NVIDIA Vera CPU 上把智能体沙箱的启动速度提升到 3 倍以上,让 Sandboxes 跑得更快、扩得更大——这一执行层服务于强化学习(RL)、智能体工具调用与模型评估,让 AI 团队可以在 CoreWeave 的隔离环境中运行代码。在 Terminal-Bench 上,Vera CPU 在所有通过任务上都取得了 1.7 倍的性能提升。
CoreWeave Forge:让 AI 闭环从生产回到训练
模型和智能体是靠一个循环变强的:生产环境中的表现喂给下一轮训练,每一次评估又打磨出下一个版本。这个循环过去散落在不同厂商的工具里,每交接一次,信号就丢一截。
CoreWeave Forge 把 Weights & Biases、来自 OpenPipe 的后训练经验,以及开源 marimo notebook 项目统一进同一个协同环境,专为持续改进模型与智能体而建。它在模型、框架与云之间保持开放。
本次新增与升级的能力包括:
- CoreWeave ARIA——现已正式可用——帮助用户在整个 AI 循环中学习、研究、编码与迭代:分析运行结果、提出实验方案、推荐代码改动并存入 GitHub,再把可执行的证据带回来——分析实验数据、指出是什么带来了变化、提出下一步该跑哪些实验。
- CoreWeave Agent Lens——一项新服务——把生产环境中的智能体可观测性转化为持续改进与看得懂的洞察。它把故障检出率提升 20%,修复成本降低一半,让数千万条生产智能体追踪记录变成驱动修复的洞察。
- CoreWeave Sandboxes——现已正式可用——让用户在隔离的 CPU 或 GPU 执行环境中运行智能体、工具调用、强化学习与评估,既可跑在无服务器基础设施上,也可跑在已用于训练的既有基础设施上;每一次智能体工具调用、RL 运行或评估,都从全新的隔离环境开始。
- 后训练用客户自己的生产信号提升模型质量,同时降低时延与成本,且不需要自建训练集群。无服务器监督微调与无服务器 RL让用户用自己的训练配方做实验。相比自管方案,无服务器 RL 训练快 1.4 倍、成本低 40%。
面向 AI 工厂的开源推理框架 NVIDIA Dynamo,为 CoreWeave 的托管推理服务以及目前处于私测阶段的 RL Rollouts 提供动力。RL Rollouts 可在部署持续运行的同时把新检查点载入线上部署,强化学习因此不必重新部署即可继续,后训练也能获得与生产一致的推理效率。
Canva、Capital One 与 MasterClass 是首批在 Forge 上构建业务的公司。
NVIDIA Nemotron开放模型则为 Forge 上的团队提供了一条直通路径,可针对智能体工作流定制并部署推理模型与多模态模型。
从初创到全球企业:已验证的成效
AI 实验室、AI 原生公司与全球企业,正用这套由 NVIDIA 与 CoreWeave 联合工程的平台,更快地从原型走向生产。
在医疗领域,为 15 个州约 5 万名高需求 Medicare 患者提供居家护理的 Ennoble Care,选择 CoreWeave 承载临床 AI 推理。它将使用 CoreWeave Kubernetes Service 上预留的 NVIDIA RTX PRO 6000 GPU 算力,扩展用于临床文书、决策支持与后台自动化的 AI 智能体。
在每一轮训练与推理的 MLPerf 评测中,CoreWeave 都交出了创纪录的成绩。它是唯一在 SemiAnalysis ClusterMAX 1.0、2.0、3.0 三版中都拿到 Platinum 评级的云服务商,服务着 10 家头部 AI 实验室中的 9 家。
NVIDIA 与 CoreWeave 一起,为客户提供的是一个把实验性智能体变成生产系统的平台——这些系统能写软件、能协助临床医生,也能在真实世界里干成实事。


