金盘科技 AI 集群建设实践：以高可用算力网络支撑工业智能化转型

一、项目背景：工业 AI 从试点验证走向生产落地

工业制造正在进入 AI 深度融合阶段。过去，企业更多关注自动化设备、生产信息化和数据采集系统；如今，随着生产大模型、工业视觉、智能质检、异常预警和工艺参数优化等技术不断成熟，AI 正在从单点工具逐步走向生产流程核心环节。

对于大型工业制造企业而言，AI 应用的落地难点不只是“有没有 GPU”，而是算力资源能否统一调度，模型能否稳定部署，网络能否支撑高吞吐低时延通信，平台能否满足生产环境高可用要求，运维和安全体系能否支撑长期运行。

本项目中，客户计划建设基于 Kubernetes + NVIDIA Run:ai 的企业级 AI 计算集群，并结合 BCM 基础设施管理能力，实现高可用、多租户、GPU/CPU 混合调度和集群统一运维。集群采用“3+1”算力架构，由 3 台 H20 GPU 节点和 1 台 L20 GPU 节点组成，同时配套 CPU 通用节点、K8S Master 节点、Run:ai 管理节点、BCM 头结点及高可用网络体系，支撑工业 AI 应用的训练、推理和生产落地。

围绕客户 AI 转型需求，超擎数智依托 CQIS AI 集群全周期交付服务体系，完成从方案设计、硬件部署、网络建设、平台软件部署、推理框架搭建、生产大模型调试到交付验收的端到端实施，为客户构建可运行、可验证、可扩展的工业 AI 集群。

二、客户核心挑战

1. 工业 AI 应用需要从“单点模型”走向“集群平台”

工业 AI 场景通常不是单一模型运行，而是涉及工艺优化、产线监控、工业质检、生产数据分析等多个业务方向。不同场景对算力、网络、存储和推理响应的要求并不相同。

如果继续采用单台服务器或单点模型部署方式，容易出现模型分散、资源利用率低、环境维护复杂、任务调度依赖人工、生产应用难以规模化复制等问题。客户需要建设统一 AI 集群平台，将 GPU 算力、CPU 计算、容器平台、模型服务和运维管理整合起来，为工业 AI 应用持续扩展提供基础。

2. GPU/CPU 混合资源需要统一管理

本项目集群包含 GPU 计算节点、CPU 通用节点、K8S Master 节点、Run:ai 管理节点和 BCM 头结点。GPU 节点主要承载训练与推理任务，CPU 节点用于数据预处理和非 GPU 型服务，管理节点负责平台控制、调度、监控和镜像服务。

如果缺少统一管理体系，GPU 资源和 CPU 资源会形成割裂，任务运行状态不透明，资源使用效率难以量化。通过 Kubernetes、Run:ai 和 BCM 协同，客户需要实现 GPU/CPU 混合调度、多租户隔离、资源配额、队列管理和集群可视化，从而提升集群整体利用率。

3. 高速训练通信与多业务流量需要分层承载

工业 AI 集群中既有 GPU 训练/推理通信，也有 K8S 调度、存储访问、管理运维、CPU 节点业务和跨机房访问等流量。如果所有流量混合承载，容易导致计算链路受干扰，管理链路不稳定，甚至影响模型服务响应。

因此，本项目需要通过计算网、融合网、带外网和汇聚边界网络进行分层设计。计算网专注 GPU 高速通信，融合网承载管理、存储与 K8S 业务，带外网保障独立运维，汇聚网络和防火墙负责跨机房访问与边界安全，形成清晰、可控、可扩展的网络架构。

4. 生产环境要求高可用、可恢复、可审计

工业制造场景对连续性要求较高。任何单台交换机、单条链路、单个防火墙或管理入口故障，都可能影响平台访问、模型部署或生产相关任务运行。因此，网络与安全架构必须避免单点故障。

本项目需要通过双交换机、双归属接入、MLAG、Bond、防火墙双机热备、带外管理和日志审计等设计，提升平台高可用能力和故障恢复能力，保障工业 AI 应用长期稳定运行。

5. 模型部署需要结合工业场景调试优化

工业 AI 模型进入生产环境时，不能只完成模型文件部署，还需要结合现场业务特点进行推理框架适配、模型参数调试、运行环境验证和性能优化。否则模型可能“能运行但不好用”，无法稳定支撑真实生产场景。

客户需要服务商具备从底层硬件、网络平台到上层模型运行环境的综合交付能力，帮助生产大模型更快完成部署、调试和业务验证。

三、方案设计：构建高可用工业 AI 集群

针对客户高性能、高可用、统一调度和安全运维的需求，超擎数智围绕“算力集群、计算网络、融合网络、带外网络、边界安全、平台软件”完成整体方案设计。

1. “3+1”算力架构支撑训练与推理

本项目采用“3+1”算力架构，由 3 台 H20 GPU 计算节点和 1 台 L20 GPU 计算节点组成。其中，H20 节点面向较高算力和显存需求的训练、推理任务，L20 节点可承载推理、轻量化模型和部分业务验证任务。

同时，集群配置 5 台 CPU 通用节点，用于承载数据预处理、非 GPU 型服务和通用计算任务；3 台 K8S Master 节点承载 Kubernetes 控制平面、门户、监控和平台镜像等服务；3 台 Run:ai 管理节点负责 GPU 资源池化、多租户调度、资源配额和可视化；2 台 BCM 头结点负责集群基础设施管理、镜像、监控、数据库、容器等基础组件。

这种架构既兼顾 GPU 算力供给，也兼顾平台控制、资源调度、通用计算和运维管理，适合工业 AI 应用从试点验证向生产运行演进。

2. 计算网：面向 GPU 通信的 RoCE 无损网络

计算网采用 2 台 NVIDIA Spectrum-4 系列 SN5600 800G 交换机构建，并通过 16 条 800G 链路实现两台交换机之间高速互联。3 台 H20 GPU 节点每台配置 4 个 400G 网卡端口，1 台 L20 节点配置 2 个 400G 网卡端口，将端口分别接入两台 SN5600 交换机，实现冗余接入。

该网络支持 RoCE v2，通过 PFC 优先级流控和 ECN 拥塞通知机制，降低大流量突发场景下的丢包和拥塞风险；同时结合 RDMA 与 GPU Direct，减少 CPU 参与和数据拷贝开销，提高 GPU 间数据传输效率。对于工业 AI 训练、推理和大模型服务而言，该设计可有效提升数据交换效率和通信稳定性。

3. 融合网：承载管理、存储访问与 K8S 调度

融合网采用 2 台 SN5600 交换机进行 MLAG 组网，实现双机热备和流量负载分担。GPU 计算节点、BCM 头结点、K8S Master 节点和 Run:ai 管理节点均通过 200G 双端口网卡接入融合网，并通过 Bond 分别连接两台交换机，提高管理、存储访问和调度业务的高可用能力。

融合网同时通过 25G 汇聚交换机接入 CPU 通用节点，使 CPU 节点、GPU 节点和管理节点进入统一 Kubernetes 管理网络。这样既保留 GPU 节点高速访问能力，也兼顾 CPU 通用节点接入成本和业务互通需求。

4. 带外网：独立管理平面保障故障恢复

带外网采用 48 口千兆交换机接入服务器和网络设备的管理端口，实现运维管理流量与业务流量物理隔离。即便业务网络或融合网络出现异常，运维人员仍可通过带外网进行设备登录、状态查看、远程诊断和故障恢复。

对于生产环境而言，带外管理不是附加功能，而是保障故障可恢复、设备可接管、平台可维护的关键设计。

5. 汇聚网络与防火墙：兼顾互通与安全边界

项目部署 2 台 25G 汇聚交换机，实现 CPU 通用节点接入、25G 低速业务与 200G/400G 高速网络互通，并承担跨机房流量汇聚。防火墙采用双机热备，与汇聚交换机 X 型互联，降低单设备故障对边界访问的影响。

防火墙配置访问控制、入侵防御、病毒查杀和日志审计策略，对外部数字化中心机房、公网与集群之间的访问进行安全管控，形成生产环境下的边界安全防护体系。

6. 平台软件：Kubernetes + Run:ai + BCM 协同

Kubernetes 提供容器编排和集群运行基础，Run:ai 提供 GPU 资源池化、多租户管理、队列调度、配额控制和任务可视化能力，BCM 则负责基础设施纳管、镜像管理、节点监控、系统部署和运维管理。

三者协同后，平台不仅具备算力资源，还具备资源分配、任务调度、系统管理、状态监控和后续扩展能力，使工业 AI 应用能够在统一平台上运行和管理。

四、实施体系：CQIS 全周期交付保障项目落地

本项目依托超擎数智 CQIS AI 集群全周期交付服务体系实施。CQIS 体系不是简单“设备交付”，而是覆盖方案设计、现场实施、系统部署、模型适配、性能验证、验收移交和后续运维的端到端服务体系。

1. 方案设计阶段：从业务需求反推集群架构

超擎数智在项目初期结合客户生产场景、算力规模、模型运行需求、网络互通要求和安全边界需求，完成集群规模、节点角色、网络平面、端口规划、链路冗余、防火墙互联和平台软件部署方案设计。

通过前期规划，项目避免了“先上设备后补设计”的风险，使硬件、网络、平台和模型部署从一开始就围绕客户实际生产需求展开。

2. 现场实施阶段：标准化部署提升交付质量

项目现场，超擎数智组建专属交付小组驻场实施，完成服务器、交换机、防火墙、汇聚设备、带外交换机等设备部署。交付团队按照拓扑图和端口映射表完成网络连接，并对链路线缆、端口标签、设备位置和管理信息进行逐项核对。

针对高速网络部署，团队重点关注光模块识别、链路协商、端口速率、MTU、Bond、MLAG、PFC、ECN 等关键配置，确保网络不仅“连得通”，还能够满足 AI 训练和推理任务对低时延、高吞吐和稳定性的要求。

3. 软件部署阶段：打通底层资源与上层任务

在系统与平台部署阶段，超擎数智完成 GPU 驱动、系统环境、Kubernetes 集群、Run:ai 调度平台和 BCM 管理平台部署，并结合客户节点角色完成管理组件、调度组件、镜像服务、监控服务和基础容器环境配置。

通过这一过程，底层服务器资源被纳入统一集群，上层 AI 任务能够通过平台进行提交、调度、运行和监控，客户从“拥有硬件”升级为“具备可用平台”。

4. 模型部署阶段：支撑生产大模型落地

针对客户工业生产场景，超擎数智完成专业推理框架搭建，并配合生产大模型部署与调试。团队结合模型运行需求和集群资源配置，对推理环境、运行参数和资源调用方式进行适配，帮助模型在集群环境中稳定运行。

这一环节是项目从基础设施交付走向业务价值落地的关键。通过模型适配和推理框架建设，客户能够更快将 AI 能力接入生产工艺优化、智能监控、数据分析和工业质检等实际场景。

5. 验收移交阶段：形成可持续运维基础

项目验收阶段，超擎数智完成集群性能验证、全量可用性检查、配置基线整理、拓扑文档交付、账号权限说明、运维培训和故障处理流程移交。测试内容覆盖节点状态、网络联通、平台服务、资源调度、模型运行和基础性能表现。

通过文档、培训和基线交付，客户不仅获得一套 AI 集群，也获得后续运维、扩展和问题排查所需的方法与资料。

五、客户收益：从集群部署到工业 AI 价值落地

1. 获得企业级高可用 AI 集群能力

本项目帮助客户构建了覆盖计算、管理、存储访问、带外运维和边界安全的企业级 AI 集群。多层冗余设计降低了单点故障风险，使平台具备支撑工业生产相关 AI 任务稳定运行的基础。

2. 提升资源调度效率和集群利用率

通过 Kubernetes + Run:ai，客户能够统一管理 GPU/CPU 混合资源，实现多租户隔离、队列管理、资源配额和任务可视化。相比传统分散式服务器使用方式，该平台有助于减少资源闲置和任务冲突，提高整体集群利用率。

3. 加快生产大模型部署和验证周期

超擎数智不仅完成硬件和网络交付，还完成推理框架搭建和生产大模型调试，帮助客户缩短从模型准备到集群运行、从技术验证到场景应用的周期，使 AI 能力更快进入生产业务流程。

4. 增强生产环境连续性

计算网双交换机冗余接入、融合网 MLAG 与 Bond 设计、防火墙双机热备、带外网独立运维等设计，共同提升平台的故障隔离和恢复能力。即便出现单链路、单端口或单设备异常，也能降低对整体业务运行的影响。

5. 强化网络安全和合规能力

通过防火墙边界隔离、访问控制、入侵防御、病毒查杀和日志审计，平台能够更好地控制外部访问风险，满足企业生产环境对安全隔离和审计留痕的要求。带外网络与业务网络的隔离，也进一步提升了运维安全性。

6. 沉淀可复制的工业 AI 集群建设经验

本项目形成了从方案设计、设备部署、网络验证、平台软件部署、模型调试到运维移交的完整实践路径。后续客户可基于该架构继续扩展 GPU 节点、CPU 通用节点、存储资源和更多工业 AI 应用，推动 AI 从单点应用走向规模化生产落地。

六、应用价值：支撑工业制造全流程智能化升级

本次建成的 AI 集群可支撑客户在生产工艺优化、产线智能监控、生产数据分析和工业质检等场景中开展 AI 应用。

在生产工艺优化方面，AI 可通过仿真分析和参数智能调优，辅助企业优化工艺参数，降低能耗并提升良品率。

在产线智能监控方面，模型可结合生产数据和设备状态，实现异常预警、风险识别和状态感知，减少非计划停机，提升生产连续性。

在生产数据智能分析方面，平台可支撑多源数据融合、质量根因分析、智能排产和交付效率优化，帮助企业从经验驱动走向数据驱动。

在工业质检方面，AI 视觉模型可用于缺陷检测、外观识别和质量分级，提高检测效率和一致性，降低人工质检压力。

七、结语：以系统级工程能力支撑工业 AI 规模化落地

工业 AI 的落地不是单点硬件堆叠，而是算力、网络、软件平台、模型应用和运维体系的系统工程。本项目中，超擎数智依托 CQIS AI 集群全周期交付服务体系，将 3+1 算力架构、高速网络、Kubernetes、Run:ai、BCM、推理框架和生产大模型调试整合为一套可运行、可验证、可持续演进的工业 AI 平台。

这体现了超擎数智在企业级 AI 项目中的综合能力：既懂底层算力和网络，也懂平台软件和模型运行，更能够通过标准化工程交付把复杂系统落到客户现场，形成真正可用、好用、可长期运维的 AI 集群能力。

未来，超擎数智将继续围绕工业制造、生命科学、能源、金融等行业客户需求，依托 CQIS 全周期交付体系，提供从方案设计、集群建设、模型部署到运维运营的一站式服务，助力更多企业实现 AI 规模化落地。