Scale-up 互连选型实战：NVLink、NVSwitch 与 UALink 到底怎么配

AI 集群互连分两个域：scale-up 管“超级计算机内部”，几十上百张卡像一张卡一样工作；scale-out 管“机器之间”。两者带宽、延迟要求差数量级，选型逻辑完全不同。这篇只讲 scale-up。

一、为什么 scale-up 是独立赛道
张量并行的集合通信发生在 scale-up 域内，每层都要 all-reduce，对带宽延迟的要求是 scale-out 的数倍。scale-out 容忍微秒级延迟；scale-up 域内延迟要压到百纳秒级，基本不允许丢包。所以它是专用技术，不是把以太网或 InfiniBand 加速一下就能替代的。

二、NVLink 与 NVSwitch：事实与代际
NVLink 是点对点高速互连，Hopper 代 NVLink 4 单 GPU 双向带宽 900GB/s，Blackwell 代 NVLink 5 翻倍到 1.8TB/s（均为公开数据）。8 卡全互连靠 NVSwitch 芯片做交换，一台 DGX 或 HGX 就是一个 scale-up 域。再往上是机柜级：NVL72 把 72 张 Blackwell GPU 连进同一 NVLink 域，总带宽 130TB/s 量级（英伟达公开数据），72 张卡在通信视角下就是“一台机器”。选型原则：TP 域需要多大，就配多大规模的 scale-up 域。70B 级 8 卡 NVLink 足够；几百 B 低延迟推理才考虑机柜级。

三、UALink：开放阵营的答案
NVLink 是私有技术。UALink 联盟（AMD、英特尔、博通、思科、Meta 等）的开放标准 1.0 已发布，单通道 200G，让不同厂商加速器也能组 scale-up 域。定位清晰：不求单点超越 NVLink，而是给“不想被单一供应商绑定”的买家可选项。产品成熟度和生态软件是未来两年观察重点。

四、选型实战四问
第一，单机 8 卡够不够？多数推理场景够，TP=8 是性价比甜点。第二，上不上机柜级？TP 域超 8 卡且延迟敏感才考虑，成本跃升一个数量级。第三，PCIe 拖后腿吗？域内直连快，但 CPU-GPU、网卡-GPU 走 PCIe，ingest 带宽单独核算。第四，拓扑对称吗？混搭代际或 NVSwitch 配置不对称，集合通信被最慢一跳拖累，先看拓扑再调优。

五、checklist
1. 先定 TP 域大小，再定 scale-up 域规模；2. 带宽按“每层两次 all-reduce 乘层数乘并发”估算；3. UALink 做技术跟踪、不做生产押注；4. 采购把线缆、交换芯片、机柜散热一起算总账。
一句话：scale-up 解决“卡要像一张卡”，scale-out 解决“机器要像一群机器”，预算先保前者。

【管理员回复】补充一点：scale-up 域的规模直接决定了张量并行和专家并行能做多大，这也是机架级 NVLink 系统的意义所在。UALink 是业界推出的开放 scale-up 互连标准，目标是让不同厂商的加速器也能构建大规模 scale-up 域，但生态和产品成熟度仍需时间。选型时除了带宽，还要关注交换芯片的端口数、拓扑带来的跳数，以及是否支持在网计算（如 all-reduce 卸载）。大家觉得开放标准的 scale-up 互连，能多快形成成熟的产品生态？