DAC、AOC 与光模块：AI 推理集群该如何选择互连方案？

参考阅读：

• DAC vs AOC vs Optical Transceivers: Which is Best for DC 2025? – network-switch.com
• Dac Vs Aoc Vs Optical Modules: Cost & Performance Comparison For Data Center Interconnects – WOLONTEK

引言

随着 AI Inference Workloads 在大规模推理与实时应用中的持续增长，数据中心内部的数据传输压力不断提升，互连层的重要性也随之增强。因此，在构建 AI 推理基础设施时，一个关键问题是如何在不同连接场景中选择合适的互连方案。本文将对 DAC（Direct Attach Cable）、AOC（Active Optical Cable）和光模块进行对比，并探讨在 AI Inference Workloads 中如何选择合适的互连方案。

Why Interconnect Choices Matter in AI Inference Workloads

当前 AI 基础设施的主流建设思路，普遍围绕 NVIDIA 端到端生态展开。整体优化路径已经非常清晰：GPU → NIC → Switch → Software。这条链路的意义在于，AI 集群性能不再由单一器件决定，而是由计算、网络与软件协同共同决定。

然而，在实际部署中，这种系统级优化仍建立在底层数据传输之上。AI 推理过程中，大量数据需要在 GPU、服务器以及网络节点之间持续流动，不同组件之间的连接方式，会对系统整体表现产生直接影响。

在这一过程中，物理互连层成为连接计算与网络的基础。其中，光互连作为主流实现方式之一，参与到节点间数据传输的核心路径，其设计与选型不仅关系到数据传输效率，也会对系统的稳定性与扩展能力产生影响。

从推理场景来看，互连选择之所以重要，主要体现在以下几个方面：

• 带宽利用效率：在高并发推理场景下，链路带宽是否能够被有效利用，会影响整体吞吐能力
• 延迟与一致性：多节点协同推理时，链路延迟及其稳定性会影响响应时间
• 系统扩展能力：随着集群规模扩大，互连方案需要支持更高密度与更复杂拓扑
• 部署与运维复杂度：不同互连方式在布线、维护以及升级方面存在差异

因此，在 AI 推理集群中，互连方案的选择不仅是硬件层面的差异，也会对系统性能与长期演进路径产生结构性影响。

Understanding DAC, AOC, and Optical Transceiver

在进入对比之前，有必要先建立对三种互连方式的基础认知。DAC、AOC 以及光模块本质上都是用于数据中心高速数据传输的物理互连方案，但其实现方式与适用边界存在明显差异。

• DAC（Direct Attach Cable）： 基于铜缆的短距离直连方案，两端集成固定收发器。其核心特点是成本低、延迟低、功耗低，但传输距离通常受限，一般在机柜内或几米范围。因此更适用于机架内高密度连接场景。

• AOC（Active Optical Cable）： 基于光纤的封装式互连方案，两端内置光电转换模块。相比DAC，它可以支持更长距离（通常几米到几十米），同时具备更好的抗电磁干扰能力。但由于集成了有源器件，其成本和功耗都会更高一些。

• Optical Transceiver： 一种可插拔的独立收发器方案，需要配合光纤跳线使用。它的优势在于高度灵活和可扩展，可以支持从短距到长距（100米到80公里以上）的多种部署方式，并适配不同速率演进。但与此同时，它也是三者中成本和功耗最高、系统设计复杂度更高的方案。

DAC vs AOC vs Optical Transceiver：Key Differences

在当前数据中心与 AI 集群部署中，DAC、AOC以及光模块在多个维度上存在差异，适用于不同场景。

成本

从成本结构来看，DAC 通常是三种方案中初始投入最低的一种。由于其基于铜缆直连设计，省去了光电转换与光纤组件，因此在机架内短距离互连场景中具有较高的成本效率，尤其适用于对预算较为敏感的部署环境。

AOC在成本上高于 DAC，但通过集成光电转换模块，在一定距离范围内提供更稳定的信号质量与布线灵活性，适用于机架间的中短距离连接。

光模块方案通常需要配合独立模块与光纤布线，因此初始投入相对更高。然而，在大规模数据中心部署中，由于其标准化程度更高、可复用性更强，在生命周期成本（TCO）层面往往具有更好的弹性，尤其是在持续扩展的 AI 集群环境中更为明显。

功耗和散热

DAC 由于不涉及光电转换过程，整体功耗最低，同时对机柜散热系统的压力较小，因此常用于高密度计算节点内部连接。

AOC 内部集成了光电转换组件，其功耗水平高于 DAC，但通常仍处于数据中心可接受范围之内，适用于需要一定传输距离但又希望控制功耗的场景。

光模块在高速率应用（如 400G、800G 及以上）中功耗相对更高，对系统散热设计、机柜风道以及整体功耗预算提出更严格要求。在 AI Inference Workloads 的高密度部署环境中，这一因素通常需要与网络架构协同评估。

Reach & Deployment Scenarios

在传输距离方面，不同方案的适用范围较为清晰：

• DAC：主要用于机架内或极短距离连接（通常为几米范围），适用于 Top-of-Rack（ToR）内部互连
• AOC：支持更长距离（通常为数十米），适用于机架间连接或相邻设备互联
• Optical Transceiver：覆盖范围最广，从短距到长距（数百米至数公里），适用于 Spine-Leaf 架构及跨机房连接

因此，从网络拓扑角度来看，光模块方案在数据中心整体架构中的适配范围更广，而 DAC 与 AOC 更多用于局部或分层结构中的固定连接场景。

Scalability and Future-Proofing Considerations

在 AI inference 基础设施规划中，互连方案不仅需要满足当前需求，还需要考虑未来演进路径。随着模型规模与并发请求持续增长，网络架构往往需要从小规模部署逐步演进为大规模集群。在这一过程中：

• 端口速率将持续向 400G / 800G / 1.6T 演进
• 网络拓扑将从简单结构向 Spine-Leaf 或更复杂架构扩展
• 布线复杂度与运维成本将显著上升

在这种趋势下，具备更高灵活性的 Optical Transceiver 方案，通常在长期演进中更具适应性，而 DAC 与 AOC 更多承担固定场景下的高性价比连接角色。

如何为AI Inference Workloads做最优互连选择

针对 AI inference workloads 的实际部署需求，互连选型通常采用"分层分级"的策略，其核心原则是在不同网络层级中，在成本、性能与可扩展性之间进行平衡。

机架内（Intra-rack）部署

在机架内部，GPU 服务器与 Top-of-Rack（ToR）交换机之间的连接距离通常在 3 米以内。在这一范围内，信号衰减与带宽损耗较低，网络设计的重点更多集中在成本与功耗控制。

在此场景下，DAC通常是更常见的选择。其基于铜缆的直连结构可以在短距离内提供较低的延迟与较低的能耗，同时简化机架内布线复杂度，适用于高密度计算节点部署环境。

机架间（Inter-rack）或中等规模集群

当连接距离超过铜缆的有效传输范围（通常约 5–10 米，取决于速率与线材规格）时，系统需要引入光信号传输以保证链路质量。

在这一层级中，AOC常作为一种过渡方案被广泛采用。相比 DAC，其通过内置光电转换单元提供更稳定的信号完整性，同时避免了可插拔光模块在部署与维护上的额外复杂度，例如光纤清洁与模块组合管理等问题。

大规模 AI 集群与 Spine-Leaf 架构

在更大规模的 AI inference 集群中，网络通常采用 Spine-Leaf 或多层 Leaf-Spine 架构，数据流需要在不同机架甚至不同网络层级之间频繁交换。系统对链路的要求从"距离适配"进一步演进为"架构可扩展性"。Optical Transceiver能够支持从数百米到更长距离的稳定传输，并适配不同速率演进路径（如 100G / 400G / 800G）。

相比固定形态互连方案，光模块在端口复用、链路重构以及网络升级方面具有更强的灵活性，因此通常用于数据中心的核心层或跨区域互连场景，以支撑集群规模的持续扩展。

结论

随着 AI Inference Workloads 持续向大规模与高并发方向发展，系统性能已不再仅由计算能力决定，而是依赖于计算、网络以及互连等多个层面的协同。在这一过程中，物理互连层作为连接各组件的基础，其重要性逐渐凸显。DAC、AOC 与光模块作为三种主流互连方案，在不同场景下各具优势。对于企业而言，合理选择互连方案，不仅有助于提升当前系统性能，也能够为未来的扩展与演进提供更稳健的基础。