如何使用 NVIDIA 网络部署 NSX-T 裸金属 EDGE

创建于 2022 年 3 月 8 日。本快速入门指南介绍如何在搭载 NVIDIA® ConnectX®-5 网卡和原生 VMware ESXi 驱动程序的 VMware vSphere 集群 7.0.3c 版本上安装和准备 VMware NSX Edge 裸金属服务器,并执行基本初始配置步骤。

文档目录

创建于 2022 年 3 月 8 日

简介

本快速入门指南介绍如何在搭载 NVIDIA® ConnectX®-5 网卡和原生 VMware ESXi 驱动程序的 VMware vSphere 集群 7.0.3c 版本上安装和准备 VMware NSX Edge 裸金属服务器,并执行基本初始配置步骤。

缩写与首字母缩略词

术语 定义
DHCP 动态主机配置协议
NAT 网络地址转换
VDS NSX 管理的虚拟分布式交换机
VM 虚拟机
VPN 虚拟专用网络
QSG 快速入门指南

参考资料

关键组件与技术

VMware NSX-T Edge

  • VMware NSX-T Edge

    Edge 节点是服务设备,具有专用容量池,用于运行无法分布到虚拟机监控程序的网络和安全服务。

    NSX-T Edge 节点用于运行 NSX-T 分布式路由器无法提供的安全与网关服务。这些 Edge 节点执行南北向路由、负载均衡、DHCP、VPN、NAT 等功能。如果要使用 Tier0 或 Tier1 路由器,则至少需要部署 1 个 Edge 节点。

  • NVIDIA ConnectX 智能网卡

    10/25/40/50/100/200 和 400G 以太网网卡

    业界领先的 NVIDIA® ConnectX® 系列智能网卡提供先进的硬件卸载和加速功能。

    NVIDIA 以太网网卡可为超大规模、公有云和私有云、存储、机器学习、AI、大数据和电信平台实现最高 ROI 和最低总体拥有成本。

硬件与软件要求

操作步骤

要在裸金属服务器上安装 NSX Edge,可以使用 PXE 服务器进行自动安装,或使用 ISO 文件。

本文档演示如何使用 ISO 文件手动安装 NSX Edge 节点。这包括配置网络设置,如 IP 地址、网关、网络掩码、NTP 和 DNS。

在裸金属上安装 NSX Edge

要安装新的 NSX Edge 裸金属服务器:

  1. my.vmware.com 下载 NSX Manager OVA。

    NSX-T Edge Install 01.PNG

  2. 登录裸金属的带外管理接口(例如 HP 服务器上的 Integrated Lights-Out (ILO))。

  3. 开始安装前,选择 NSX Edge 节点的启动模式。

    1. 访问 System Setup 屏幕,选择 System BIOS
    2. System BIOS Setting 屏幕上,选择 Boot Settings
    3. Boot Settings 屏幕上,将 Boot Mode 设置为 LegacyUEFI
    4. 点击 BackFinish
  4. 点击 Virtual Media 图标,选择 Select CD/DVD → *Local .iso file

    NSX-T Edge Install 02.PNG

  5. 选择下载的文件,点击 Open 连接到虚拟介质。

    3NSX-T Edge Install 02.PNG

    等待几秒钟,直到虚拟介质连接。

  6. 选择 Interactive install。可能会有 10 秒的暂停,之后按 Enter

    NSX-T Edge Install 04interactive.PNG

  7. Configure the keyboard 窗口中,选择 No

    NSX-T Edge Install 05interactive.PNG

  8. 选择英语(美国)作为语言。点击 Enter

    NSX-T Edge Install 06interactive.PNG

  9. 等待附加组件加载。

    NSX-T Edge Install 07interactive.PNG

  10. 选择适用的

主网络接口。此接口用于管理网络。

NSX-T Edge Install 08interactive.PNG

  • 选择 Yes 指定 VLAN ID 以连接到带标签的接口,或选择 No 连接到不带标签的接口。

NSX-T Edge Install 09interactive.PNG

  • 在我们的案例中,我们使用 DHCP 进行网络配置。

NSX-T Edge Install 10interactive.PNG

  • 点击 Continue。在此情况下,不使用 kick start。

NSX-T Edge Install 11interactive.PNG

  • 选择满足系统要求的磁盘大小。

  • 在“分区磁盘”窗口中,选择以下选项之一:

    • Yes - 如果要卸载现有分区以便在磁盘上创建新分区。
    • No - 如果要使用现有分区。
  • NSX Edge 节点启动后,使用 admin 凭据登录 CLI。

    警告:默认情况下,root 登录密码为 vmwareadmin 登录密码为 default。首次登录时,请务必更改默认密码。

    NSX-T Edge Install 08.PNG

    警告:NSX Edge 节点启动后,如果首次未使用 admin 凭据登录,数据平面服务将不会自动在 NSX Edge 节点上启动。

  • 运行 get interface eth2(在我们的案例中,不带 VLAN)或 get interface ethX.<vlan_ID>(带 VLAN)命令,验证 IP 地址是否已按预期应用。

    NSX-T Edge Install 09.PNG

  • 等待系统重启,然后使用 admin 凭据登录。

  • 默认情况下,NSX Edge 节点数据平面会声明除管理 NIC(具有 IP 地址和默认路由的 NIC)之外的所有虚拟机 NIC。 要查看 NSX-T Data Center 数据平面将使用的物理 NIC,请从可用 PCI 设备列表中运行以下命令。

    NSX-T Edge Install 15interactive.PNG

  • (可选)要配置数据平面的自定义 NIC,请运行以下命令。

    NSX-T Edge 控制台

    sl01w01edge02> reset dataplane device list
    sl01w01edge02> set dataplane device list <NIC1>, <NIC2>, <NIC3>
    sl01w01edge02> restart service dataplane
    
  • 验证 NSX Edge 节点是否具有所需的连接性。 如果已启用 SSH,请确保可以使用 SSH 连接到 NSX Edge 节点,并验证以下内容:

    • 可以 ping 通 NSX Edge 节点管理接口。
    • 从 NSX Edge 节点可以 ping 通节点的默认网关。
    • 从 NSX Edge 节点可以 ping 通同一网络或通过路由可达的网络中的虚拟机管理程序主机。
    • 从 NSX Edge 节点可以 ping 通 DNS 服务器和 NTP 服务器的 IP 或 FQDN。

    verification.PNG

  • 要建立 NSX Edge 与 NSX Manager 或 NSX Manager 集群之间的通信,请将 NSX Edge 加入 NSX Manager。只需向一个 NSX Manager 注册 NSX Edge,即可确保与管理平面的通信。 打开一个 SSH 会话或控制台会话,连接到其中一个 NSX Manager 设备。 要检索 NSX Manager 设备的指纹,请在 NSX Manager 设备控制台中运行 get certificate API thumbprint 命令。 命令输出是一个字母数字字符串,对该 NSX Manager 是唯一的。 例如:

    Join the Bare-Metal NSX-T Edge 01.PNG

  • 要将 NSX Manager 设备加入 NSX Edge 节点 VM,请运行 join management-plane 命令。 join management-plane <Manager-IP> thumbprint <Manager-thumbprint> username admin 提供以下信息:

    • NSX Manager 的主机名或 IP 地址(可选端口号)
    • NSX Manager 的用户名
    • NSX Manager 的证书指纹
    • NSX Manager 的密码

Join the Bare-Metal NSX-T Edge 02.PNG

验证

要验证结果,请在 NSX Edge 节点 VM 上运行 get managers 命令。

verification 3.PNG

或者,在 NSX Manager UI 中,导航到 System → Fabric → Nodes → Edge Transport Nodes

verification 4.PNG

Join the Bare-Metal NSX-T Edge 03.PNG

NSX Edge 传输节点 页面:

  • 配置状态 列显示 Pending。点击 Configure NSX 开始配置节点。如果 NSX 版本 列未显示节点上安装的版本号,请尝试刷新浏览器窗口。
  • 在配置 NSX Edge 节点上的 NSX 之前,节点状态隧道状态 列显示状态 Not Available传输区域N-VDS 交换机 列显示值 0,表示 NSX Edge 节点上未连接任何传输区域或配置 N-VDS 交换机。

将 NSX Edge 配置为传输节点

手动安装 NSX Edge 裸机后,在 NSX-T Data Center 中将 NSX Edge 配置为传输节点。

传输节点是能够参与 NSX-T Data Center 覆盖网络或 NSX-T Data Center VLAN 网络的节点。任何节点只要包含 N-VDS 即可作为传输节点。此类节点包括但不限于 NSX Edge。

NSX Edge 可以属于一个覆盖传输区域和多个 VLAN 传输区域。如果 VM 需要访问外部世界,NSX Edge 必须属于 VM 的逻辑交换机所属的同一传输区域。通常,NSX Edge 至少属于一个 VLAN 传输区域以提供上行链路访问。

前提条件

  • 必须配置传输区域。
  • 验证计算管理器已配置。请参阅 添加计算管理器
  • 必须配置上行链路配置文件,或者可以使用裸机 NSX Edge 节点的默认上行链路配置文件。
  • 必须配置 IP 池,或者网络部署中必须存在可用的 IP 池。
  • 主机或 NSX Edge 节点上必须至少有一个未使用的物理 NIC。

警告:请访问 此文档 执行所有必要的配置。

步骤

  1. 从浏览器以管理员权限登录 NSX Manager,地址为 https://。
  2. 选择 System → Fabric → Nodes → Edge Transport Nodes
  3. 选择 Edge 节点并点击 Editimage2022-3-8_11-36-48.png
  4. 在对话框中,指定 Edge Switch Namenvds3,选择 Transport Zone → SL-WL01-Overlay-TZSL-WL01-VLAN-TZUplink Profile → Edge-BM-Uplink-profile,以及 LLDP Profile → LLDP [Send Packet Enabled]。向下滚动。 Configure the Bare-Metal NSX-T Edge 02.PNG IP Assignment(TEP) → Use IP PoolIP Pool → SL-WL01-TEP-Edge-IPpool 用于 Edge 的 TEP。在 Team Policy Uplink Mapping 中,对于 uplink-1,点击 Select Interfaces。 点击 SAVEConfigure the Bare-Metal NSX-T Edge 03.PNG
  5. Transport Nodes 页面查看连接状态。 Configure the Bare-Metal NSX-T Edge 04.PNG
  6. 要成功配置 NSX Edge 节点上的防火墙规则,请在传输节点上启用服务核心。 NSX-T Edge 控制台
    sl01w01edge02> set debug
    
    sl01w01edge02> set dataplane service-core enabled
    
    INFO: Enabling service core. Changing from [] to 12,13,14,15,16,17.
    INFO: Config was written to: /config/vmware/edge/config.json
    INFO: Grub backup already exists. Skipping.
    INFO: Grub config is good.
    
    sl01w01edge02> restart service dataplane
    sl01w01edge02>
    
  7. (可选) 使用 GET https://<nsx-manager>/api/v1/transport-nodes/<transport-node-id> API 调用查看传输节点。
  8. (可选) 使用 GET https://<nsx-mgr>/api/v1/transport-nodes/<transport-node-id>/status API 调用获取状态信息。
  9. 使用 vCenter Server 将 NSX Edge 节点迁移到新主机后,您可能会发现 NSX Manager UI 报告了 NSX Edge 的过时配置详细信息(计算、数据存储、网络、SSH、NTP、DNS、搜索域)。要获取新主机上 NSX Edge 的最新配置详细信息,请运行 API 命令 POST api/v1/transport-nodes/<transport-node-id>?action=refresh_node_configuration&resource_type=EdgeNode

后续操作

将 NSX Edge 节点添加到 NSX Edge 集群。请参阅 创建 NSX Edge 集群

完成!

作者

BK.jpg Boris KovalevBoris Kovalev 过去几年一直担任解决方案架构师,专注于 NVIDIA Networking/Mellanox 技术,负责复杂的机器学习、大数据和基于 VMware 的高级云研究与设计。此前,他在多家公司担任高级顾问和解决方案架构师超过 20 年,最近在 VMware 工作。他撰写了多份参考设计,涵盖 VMware、机器学习、Kubernetes 和容器解决方案,这些设计可在 NVIDIA 文档网站上获取。