大都会人寿 AI 模型运行环境建设实践:超擎数智助力保险业务智能化应用落地

随着大模型技术逐步进入金融保险行业,企业 AI 应用正在从单一大模型探索,走向多模型、多场景、轻量化、可控部署的新阶段。对于保险企业而言,AI 应用既要服务于客户服务、业务运营、知识问答、合规辅助、文档处理等实际场景,也必须满足数据安全、系统稳定、环境隔离和生产可控等要求。

随着大模型技术逐步进入金融保险行业,企业 AI 应用正在从单一大模型探索,走向多模型、多场景、轻量化、可控部署的新阶段。对于保险企业而言,AI 应用既要服务于客户服务、业务运营、知识问答、合规辅助、文档处理等实际场景,也必须满足数据安全、系统稳定、环境隔离和生产可控等要求。

在这一背景下,大都会人寿围绕企业内部 AI 应用建设需求,规划部署多套小参数模型运行环境,用于支撑不同业务场景下的模型推理、测试验证和生产应用。本项目中,超擎数智为客户交付两台 8 卡 L20 GPU 服务器和一台 H20 GPU 服务器,并完成设备实施上架、基础检查、生产与测试资源部署协助,为客户后续多模型部署和业务应用验证提供稳定算力基础。

本次项目虽然集群规模不大,但具有典型的企业 AI 落地特征:客户并非单纯追求大规模算力,而是希望构建一套生产与测试分离、可承载多个小参数模型、可逐步扩展的本地 AI 运行环境。超擎数智通过规范化实施交付,帮助客户完成从设备到场到基础环境可用的落地过程,为保险业务智能化升级奠定基础。

一、项目背景:保险行业 AI 应用进入多模型落地阶段

保险行业长期积累了大量业务知识、客户服务记录、产品条款、理赔材料、合规制度和运营流程。随着 AI 技术发展,企业开始探索将模型能力引入客服辅助、知识问答、文档摘要、条款理解、理赔材料初筛、内部流程问答和运营效率提升等场景。

与通用互联网场景不同,保险行业 AI 应用更关注安全、准确、稳定和可控。客户数据、保单信息、理赔材料和业务规则具有较高敏感性,模型部署方式需要尽量满足本地化、可管理、可隔离的要求。同时,不同业务场景对模型能力要求不同,企业往往需要部署多个小参数模型,而不是只依赖单一大模型。

基于这一需求,大都会人寿规划建设本地 GPU 计算环境,用于承载多个小参数模型的部署与运行。其中,一台 H20 服务器和一台 L20 服务器用于生产环境,承载正式业务模型服务;另一台 L20 服务器用于测试环境,支撑模型验证、版本测试、场景适配和上线前评估。

二、客户核心需求

1. 构建本地化 AI 模型运行环境

保险业务涉及客户信息、业务资料和内部知识内容,对数据安全和系统可控性要求较高。客户需要将模型部署在本地环境中,减少外部调用带来的数据边界风险,为后续业务系统接入和模型应用落地提供安全基础。

2. 支撑多个小参数模型并行部署

客户计划部署多个小参数模型,以适配不同业务场景。相比单一大模型,小参数模型具备部署灵活、推理成本较低、场景适配快、资源占用相对可控等特点,适合在企业内部多个业务条线中逐步推广。

这要求底层 GPU 服务器具备稳定算力供给,并能够根据不同模型任务进行资源划分和环境管理。

3. 生产环境与测试环境分离

客户明确将一台 H20 和一台 L20 用于生产环境,另一台 L20 用于测试环境。生产环境需要更高稳定性,用于承载正式模型服务;测试环境则用于模型调试、版本验证、参数调整和上线前测试。

这种分区方式能够降低测试任务对生产服务的影响,也便于客户在模型上线前完成充分验证。

4. 设备实施需要规范、高效、可交接

本项目主要实施内容为设备上架和基础部署。虽然交付范围聚焦于硬件实施,但对于企业级 AI 环境而言,设备落位、供电检查、线缆连接、端口标识、基础状态确认和交付文档仍然直接影响后续使用和运维效率。

客户需要服务商具备规范化现场实施能力,确保设备快速、准确、安全地进入可用状态。

三、超擎数智交付方案

围绕大都会人寿多小参数模型部署需求,超擎数智提供了由 H20 与 L20 GPU 服务器组成的本地 AI 计算环境,并按照生产与测试分区完成实施部署。

1. 生产环境:H20 + L20 支撑正式模型服务

生产环境由一台 H20 GPU 服务器和一台 8 卡 L20 GPU 服务器组成,用于承载客户后续正式运行的小参数模型服务。

H20 服务器可用于对算力和显存需求更高的模型服务,L20 服务器则可用于承载多路推理、轻量模型服务或部分图文、多模态相关任务。两类 GPU 服务器组合部署,能够兼顾性能、灵活性和资源利用效率。

生产环境的建设目标是为客户提供稳定、可持续运行的模型服务基础,使后续业务系统能够逐步接入 AI 能力。

2. 测试环境:独立 L20 服务器支撑模型验证

测试环境由一台 8 卡 L20 GPU 服务器承担,主要用于模型部署测试、参数调优、版本验证和上线前评估。

通过独立测试环境,客户可以在不影响生产模型服务的前提下,对新模型、新版本、新参数和新场景进行验证。测试通过后,再按流程迁移至生产环境,从而降低模型上线风险。

3. 多小参数模型部署基础

本项目面向多个小参数模型运行需求进行算力规划。小参数模型更适合企业内部知识问答、文档处理、业务辅助和流程问答等场景,能够在相对可控的计算资源上实现较高并发和较低推理成本。

基于 H20 与 L20 服务器组合,客户可根据模型规模、并发要求和业务优先级,对不同模型进行分布式部署、资源隔离和服务分层,为后续 AI 应用扩展预留空间。

4. 实施上架与基础交付

超擎数智现场团队按照客户机房条件和设备部署要求,完成服务器上架、供电连接、基础加电检查、线缆连接、设备标签和基础运行状态确认。

实施过程中,团队重点关注设备安装位置、机柜承重、供电冗余、散热空间、线缆走向和后续维护便利性,确保设备部署符合企业级数据中心运维要求。

四、实施过程:从设备到场到环境可用

1. 现场条件确认

在设备实施前,超擎数智对客户现场机柜空间、供电条件、散热环境和网络接入条件进行确认,确保 H20 与 L20 服务器具备稳定运行基础。

对于 GPU 服务器而言,供电与散热是长期稳定运行的重要前提。现场团队在上架前完成部署位置和实施顺序确认,降低后续返工和调整风险。

2. 设备上架与加电检查

项目实施阶段,超擎数智完成两台 8 卡 L20 服务器和一台 H20 服务器的上架部署,并进行加电检查和设备状态确认。检查内容包括服务器启动状态、基础硬件识别、风扇和电源状态、管理口可达性等。

通过基础检查,确保设备在进入后续系统部署和模型环境配置前处于正常状态。

3. 生产与测试资源分区

根据客户规划,团队协助完成生产资源与测试资源的物理和逻辑区分:一台 H20 与一台 L20 作为生产环境基础资源,另一台 L20 作为测试环境基础资源。

该分区方式使客户能够在后续模型部署过程中明确资源边界,避免测试任务影响生产模型服务。

4. 交付确认与运维移交

设备实施完成后,超擎数智向客户完成基础交付确认,包括设备部署位置、设备状态、连接关系、基础检查结果和运维注意事项说明。

该过程帮助客户清晰掌握设备部署情况,为后续系统环境搭建、模型部署和日常维护提供基础信息。

五、客户收益

1. 快速建立企业本地 AI 算力环境

通过本次项目,大都会人寿获得由 H20 与 L20 GPU 服务器组成的本地 AI 计算资源,可支撑多个小参数模型的部署、测试和生产运行,为企业 AI 应用落地提供基础。

2. 支撑多模型、多场景灵活部署

H20 与 L20 服务器组合能够覆盖不同模型规模和推理任务需求。客户可根据业务场景,将不同小参数模型部署在不同资源上,提升模型服务的灵活性和资源利用效率。

3. 实现生产与测试环境隔离

一台 H20 和一台 L20 用于生产,一台 L20 用于测试,使客户能够在测试环境中完成模型验证和版本迭代,再将稳定模型迁移至生产环境,降低上线风险。

4. 降低后续模型应用落地门槛

规范化的设备上架、基础检查和交付移交,使客户后续开展系统部署、模型服务配置和业务应用接入时具备更清晰的基础环境,减少前期准备成本。

5. 提升本地部署安全性和可控性

本地 GPU 环境为客户后续处理内部文档、业务知识和模型调用提供更可控的运行基础,降低依赖外部模型服务带来的数据边界风险。

6. 为后续 AI 平台扩展预留空间

本次部署可作为客户后续扩展 AI 平台能力的起点。未来可继续围绕模型管理、推理服务、知识库问答、资源调度和统一运维等方向逐步建设,形成更完整的企业 AI 应用平台。

六、后续应用方向

结合保险行业业务特点和本次多小参数模型部署规划,客户后续可围绕以下方向开展 AI 应用验证:

1. 内部知识问答

面向保险产品条款、业务制度、操作手册、合规要求和培训资料,构建内部知识问答能力,提升员工查询和业务支持效率。

2. 客户服务辅助

将常见问题、服务流程、产品说明和业务规则接入模型服务,为客服或坐席人员提供回答建议、流程指引和知识检索支持。

3. 文档摘要与信息提取

针对保单材料、理赔资料、业务文档和内部报告,探索摘要生成、关键信息提取、分类标注和一致性检查等应用。

4. 合规与运营辅助

结合内部制度和合规要求,探索规则问答、流程检查、操作提示和风险点辅助识别等能力,提升运营规范性。

5. 模型测试与版本迭代

利用独立测试环境,持续验证不同小参数模型、不同提示词策略、不同业务语料和不同部署配置,为生产环境模型优化提供依据。

七、结语

本次大都会人寿项目是一次典型的企业级 AI 模型运行环境建设实践。超擎数智围绕客户多小参数模型部署需求,完成两台 8 卡 L20 服务器和一台 H20 服务器的实施上架,并协助客户形成生产与测试分离的本地 GPU 资源基础。

对于保险企业而言,AI 应用落地需要兼顾业务创新、数据安全、系统稳定和持续迭代。本项目通过 H20 与 L20 组合部署,为客户后续开展多模型推理、场景测试和生产应用接入提供了可靠起点。

未来,超擎数智将继续围绕金融保险等行业客户的大模型本地化部署需求,提供从硬件交付、环境建设到模型部署、推理优化和应用落地的全流程支持,助力企业稳步推进 AI 应用创新。