如上图所示的A100GPU拓扑结构中，8块A100GPU所组成的拓扑包含以下组件：
接下来的部分我们将对这些组件进行详细解读。下一张图片将提供更详尽的拓扑结构信息供参考。
在GPU架构中，存储网络卡的定位主要涉及其通过PCIe总线与中央处理器（CPU）的连接，以及负责促进与分布式存储系统的通信。以下是存储网络卡在GPU架构中的主要作用：
虽然官方推荐使用BF3DPU，但在实践中，只要满足带宽需求，可以选用其他替代解决方案。例如，为了成本效益考虑，可以考虑使用RoCE；而为了最大限度提升性能，则优先选择InfiniBand。
在完全互联网络拓扑中，每个节点都直接与所有其他节点相连。通常情况下，8块GPU通过六个NVSwitch芯片以全互联配置相连接，这一整体也被称为NVSwitch架构。
在全互联结构中，每条线路的带宽取决于单个NVLink通道的带宽，表示为n*bw-per-nvlink-lane。对于采用NVLink3技术、每条通道带宽为50GB/s的A100GPU，在全互联结构中，每条线路的总带宽为12*50GB/s=600GB/s。需要注意的是，此带宽是双向的，既支持数据发送也支持接收，因此单向带宽为300GB/s。
相比之下，A800GPU将NVLink通道的数量从12减少到了8。因此，在全互联结构中，每条线路的总带宽变为8*50GB/s=400GB/s，单向带宽为200GB/s。
以下是一个由8*A800组成的设备的nvidia-smi拓扑结构图示。
以下图表展示了GPU节点间的互联架构：
计算网络主要用于连接GPU节点，支持并行计算任务之间的协同工作。这包括在多块GPU之间传输数据、共享计算结果以及协调大规模并行计算任务的执行。
存储网络用于连接GPU节点和存储系统，支持大规模数据的读写操作。这包括将数据从存储系统加载到GPU内存中，以及将计算结果写回存储系统。
为了满足AI应用对高性能的需求，在计算网络和存储网络上，RDMA（远程直接内存访问）技术至关重要。在两种RDMA技术——RoCEv2和InfiniBand之间进行选择时，需要权衡成本效益与卓越性能，每种选项都针对特定应用场景和预算考虑进行了优化。
公共云服务提供商通常在其配置中采用RoCEv2网络，例如CX配置，其中包含8个GPU实例，每个实例配备8*100Gbps。与其他选项相比，只要能满足性能要求，RoCEv2相对较为经济实惠。
该图表突出了关键连接的带宽规格：
200Gbps（25GB/s）接近PCIeGen4的单向带宽。400Gbps（50GB/s）超越了PCIeGen4的单向带宽。
因此，在此类配置中使用400Gbps的网卡并不能带来显著优势，因为要充分利用400Gbps带宽需要PCIeGen5级别的性能支持。
H100主机的整体硬件架构与A100八卡系统的架构非常相似，但也存在一些差异，主要体现在NVSwitch芯片的数量和带宽升级上。