Layer 03 · Optical & Electrical Interconnect
光电互联与 CPO 硅光网络
大模型集群本质上是“互联受限系统”。本专题剖析 NVLink Fabric(柜内 Scale-Up)、InfiniBand 与 Spectrum-X 以太网(跨柜 Scale-Out),以及彻底终结可插拔光模块功耗墙的 CPO 共封装光学。
Scale-Up 柜内互联 (NVLink Fabric)
打破单卡显存边界,将整柜 72/144/576 颗 GPU 连成一台拥有数十 TB 至 PB 级统一编址内存的巨型计算单机。
NVLink 4 (Hopper)
900 GB/s (18 条链路 / GPU)
NVLink 5 (Blackwell)
1,800 GB/s (100Gb/s PAM4 SerDes,单柜 130 TB/s 互联带宽)
NVLink 6 (Rubin)
3,600 GB/s (200Gb/s PAM4 SerDes,单域跨柜扩展能力倍增)
NVLink Switch Tray 是整个机柜的心脏。在 GB200/GB300 NVL72 中,9 个交换托盘通过后部无源铜缆背板直接连通 18 个计算托盘,实现全互联无阻塞(Non-blocking All-to-All)通信,使得大模型并行通信延迟降低至微秒级。
Scale-Out 跨柜网络 (InfiniBand vs Spectrum-X Ethernet)
连接成千上万个机柜形成万卡至十万卡 AI Factory 集群,承载数据并行(DP)与分布式优化器同步通信。
Quantum-2 (NDR 400G)
64 端口 400Gb/s (Hopper 世代主力)
Quantum-X800 (XDR 800G)
144 端口 800Gb/s (基于 200Gb/s SerDes,Blackwell 世代主力)
Quantum-X1600 (1.6T)
单端口 1.6Tb/s (配合 ConnectX-9 适配 Rubin 世代)
Spectrum-X800 / XGS
端到端 RoCEv2 (无损以太网,支持动态自适应路由与微突发控制)
NVIDIA 在网络层采取双轨战略:InfiniBand 以极低时延与自适应硬件拥塞控制服务最高优先级智算任务;Spectrum-X 则通过专用 ASIC 芯片(Spectrum-4/5)与 SuperNIC 联动,将传统以太网有效吞吐率从 60% 提升至 95% 以上,打破 CSP 厂商自研以太网壁垒。
共封装光学 (CPO / Silicon Photonics)
将光电转换引擎(Optical Engine)直接封装在交换机芯片或计算芯片的同一基板上,彻底终结传统可插拔光模块的功耗与信号衰减瓶颈。
传统可插拔光模块
15-20 W / 800G (大量能耗浪费在电信号重驱动与铜线上)
NVIDIA CPO 方案
能耗降低 3.5 倍 (激光器数量减少 4 倍,抗震与集群可靠性提升 10 倍)
核心交换硬件
Q3450-LD (144 端口 800Gb/s InfiniBand CPO 液冷交换机)
以太网 CPO
Spectrum-X Photonics (支持高达 512 个 800G / 1.6T 端口的百万卡级互联扩展)
在十万卡级集群中,传统光模块年故障率导致整个大模型训练中断频发。通过与台积电 COUPE 技术及 SPIL 合作,NVIDIA CPO 架构将激光源外置(ELSFP),光电引擎紧贴 ASIC,不仅极大降低交换机内部发热,更让光信号完整度提升 63 倍。