NVIDIA GPU 如何助力加速 OpenAI GPT-6 Astra Ultrafast

运行于 NVIDIA Blackwell GPU 之上的 GPT-6 Astra Ultrafast，现已上线 OpenAI API，并面向符合条件的 ChatGPT Work 与 Codex 用户开放。

在 OpenAI 自有模型针对 NVIDIA Blackwell 架构特性所做的推理优化加持下，Ultrafast 的 Token 生成速度最高可达 Astra 标准模式的 8 倍。对开发者而言，更快的生成速度可以缩短编码智能体的“编辑—测试—调试”循环，减少两次工具调用之间等待模型生成响应的时间，也让交互式应用的响应更为灵敏。

一次快速响应本身价值有限，真正重要的是它在工作流中被反复调用：智能体编写代码、调用工具、核对结果，再决定下一步动作。Ultrafast 把 Astra 的能力带入这些对时延高度敏感的循环之中。NVIDIA AI 基础设施则帮助 OpenAI 在开发者需要的那一刻，交付更多有用的模型输出。

“NVIDIA 在工具链与文档上的深度投入，使我们能够让模型在面向 Blackwell 与 Rubin GPU 编程时表现出色，”OpenAI 推理负责人 Philippe Tillet 表示。“Astra 能够把这些知识转化为高性能内核（kernel），让 NVIDIA 硬件在时延、吞吐与成本的全维度上都具备竞争力。有了 Astra Ultrafast，这就意味着当智能体编写代码、调用工具、处理复杂任务时，模型响应会更快。”

性能仍在持续提升

性能优化并不会在模型部署之后终止。OpenAI 正用自有模型协助改进运行在 NVIDIA GPU 上的推理软件，借助该平台的可编程性完成验证与落地。这项工作持续推进，可以让模型响应越来越快，也让已部署的基础设施随时间释放更高产出。

“我们与 NVIDIA 的合作正在帮助我们把 AI 做得更快、更有用，”OpenAI 计算首席技术官 Uday Ruddarraju 表示。“我们用内部模型优化了 NVIDIA GPU 上的推理，而 NVIDIA 平台的可编程性，帮助我们实现了 Astra Ultrafast 背后的这次加速。”

可编程的 NVIDIA 平台，使开发者与研究人员在模型演进过程中，得以将同一套基础设施复用于训练、推理与强化学习。这种灵活性让团队能够在需求变化时重新调配算力资源，提升利用率，并避免为每一类负载单独超额配置算力。