如何在 VMware ESXi 6.7 和 7.0 及以上版本上升级 NVIDIA ConnectX 网卡驱动

创建于 2019 年 6 月 4 日,更新于 2024 年 9 月 24 日。本文介绍如何在单台主机上安装和测试适用于 VMware vSphere ESXi 6.7/7.0 的 NVIDIA ConnectX-5/ConnectX-6 原生 ESXi 驱动,并通过 ESXi CLI 界面执行基本初始配置步骤。

文档目录

创建于 Jun 4, 2019

更新于 Sep 24, 2024

简介

本文介绍如何在单台主机上安装和测试适用于 VMware vSphere ESXi 6.7/7.0 的 NVIDIA ConnectX-5/ConnectX-6 原生 ESXi 驱动,并通过 ESXi CLI 界面执行基本初始配置步骤。

参考资料

硬件与软件要求

  1. 一台服务器平台,配备基于以下 NVIDIA ConnectX®-4/5 PCI Express 网卡(以太网、VPI)之一的网卡。
  2. 安装权限:安装需要在目标机器上具有管理员权限
  3. 设备 ID:最新设备 ID 列表,请访问 NVIDIA 网站。
  4. 支持的网卡/固件:推荐固件版本可在此处找到此处

驱动安装(CLI)

  1. 启用 SSH 访问 ESXi 服务器。
  2. 登录 ESXi vSphere 命令行界面 并具有 root 权限。
  3. 验证主机是否配备 NVIDIA ConnectX (Mellanox) 网卡

ESXi 控制台

~ lspci | grep Mellanox

0000:39:00.0 Ethernet controller: Mellanox Technologies ConnectX-6 Dx EN NIC; 100GbE; dual-port QSFP56; PCIe4.0 x16; (MCX623106AC-CDA) [vmnic0]
0000:39:00.1 Ethernet controller: Mellanox Technologies ConnectX-6 Dx EN NIC; 100GbE; dual-port QSFP56; PCIe4.0 x16; (MCX623106AC-CDA) [vmnic1]

注意: 在此例中,Mellanox 网卡使用 vmnic0 和 vmnic1。

  1. 验证已安装的驱动版本

ESXi 7.0

ESXi 控制台

~ esxcli software vib list | grep nmlx
nmlx5-core                     4.21.71.1-1OEM.702.0.0.17473468      MEL     VMwareCertified   2021-06-07
nmlx5-rdma                     4.21.71.1-1OEM.702.0.0.17473468      MEL     VMwareCertified   2021-06-07

ESXi 6.7

ESXi 控制台

~ esxcli software vib list | grep nmlx

nmlx5-core 4.17.9.12-1vmw.670.0.0.8169922 VMW VMwareCertified 2018-04-25
nmlx5-rdma 4.17.9.12-1vmw.670.0.0.8169922 VMW VMwareCertified 2018-04-25
  1. 下载最新的 Mellanox 原生 ESXi 驱动,请访问此处
  2. 解压二进制镜像(.zip 文件)。
  3. 使用 SCP 或其他文件传输方法将驱动复制到目标 ESXi 主机。
  4. 将 ESXi 主机置于维护模式
  5. 安装驱动。

~ esxcli software vib install –d <path>/<bundle_file>

ESXi 7.0

ESXi 控制台

~ esxcli software vib install -d /tmp/Mellanox-nmlx5_4.21.71.101-1OEM.702.0.0.17630552.zip

ESXi 6.7

ESXi 控制台

~ esxcli software vib install -d /tmp/Mellanox-nmlx5_4.17.71.1-1OEM.670.0.0.8169922.zip
  1. 重启服务器。

ESXi 控制台

~ reboot
  1. 验证驱动模块已成功安装并加载

ESXi 控制台

esxcli software vib list | grep nmlx
nmlx5-core                     4.21.71.101-1OEM.702.0.0.17630552    MEL     VMwareCertified   2021-09-30
nmlx5-rdma                     4.21.71.101-1OEM.702.0.0.17630552    MEL     VMwareCertified   2021-09-30

ESXi 控制台

~ esxcli system module list | grep nmlx5

nmlx5_core                          true        true
nmlx5_rdma                          true        true
  1. 检查物理网络接口状态。

ESXi 控制台

~ esxcli network nic list

Name     PCI Device    Driver      Admin Status  Link Status   Speed  Duplex  MAC Address         MTU  Description
-------  ------------  ----------  ------------  -----------  ------  ------  -----------------  ----  -----------
vmnic0   0000:39:00.0  nmlx5_core  Up            Up           100000  Full    0c:42:a1:24:04:ea  1500  Mellanox Technologies ConnectX-6 Dx EN NIC; 100GbE; dual-port QSFP56; PCIe4.0 x16; (MCX623106AC-CDA)
vmnic1   0000:39:00.1  nmlx5_core  Up            Down              0  Half    0c:42:a1:24:04:eb  1500  Mellanox Technologies ConnectX-6 Dx EN NIC; 100GbE; dual-port QSFP56; PCIe4.0 x16; (MCX623106AC-CDA)
  1. 退出维护模式 ESXi 主机。

完成!

作者

BK.jpg Boris KovalevBoris Kovalev 过去几年担任解决方案架构师,专注于 NVIDIA 网络/Mellanox 技术,负责复杂的机器学习、大数据和基于 VMware 的高级云研究与设计。Boris 曾在多家公司担任高级顾问和解决方案架构师超过 20 年,最近在 VMware 工作。他在 NVIDIA 文档网站上撰写了多篇涵盖 VMware、机器学习、Kubernetes 和容器解决方案的参考设计。