摘要：Nvidia 成为 AI 革命硬件巨头的原因众多，除了众所周知得CUDA护城河，NVLink 内存共享端口无疑也是其中之一。早在 2016 年，该端口就开始在其 Pascal P100 GPU 加速器上推出。如今，在该领域耕耘近十年后，随着 UALink 联盟
Nvidia 成为 AI 革命硬件巨头的原因众多，除了众所周知得CUDA护城河，NVLink 内存共享端口无疑也是其中之一。早在 2016 年，该端口就开始在其 Pascal P100 GPU 加速器上推出。如今，在该领域耕耘近十年后，随着 UALink 联盟准备与 Nvidia（常被称为 Big Green）合作，为数据中心计算引擎提供内存一致性互连，Nvidia 决定开放对 NVLink 协议以及驱动该协议的物理传输（PHY）的访问。
由此产生的知识产权包名为 NVLink Fusion，这意味着那些定制 CPU 或加速器的公司可以获得 NVLink 端口设计以及其上内存原子协议的许可，从而实现一种类似于 CPU 几十年来所具备的 NUMA 内存共享模式。
当然，从技术层面而言，任何技术都可以进行授权，这不过是一个讨价还价的过程。例如，只要向 Intel 开出足够高额的支票，或者在法庭上以反垄断为由起诉他们，就有可能获得 X86 指令集的许可。事实上，AMD 就曾起诉 Intel，以获取使用其技术并克隆 X86 指令集的权利，之后双方签订了交叉许可协议，才结束了法律纷争。虽然起诉 Nvidia 并非行业的理想选择，但如果 Nvidia 在 UALink 及其知识产权问题上过于刁难，毫无疑问，行业内各方会联合起来应对。毕竟，业内人士（这里指全球 IT 领域的相关人员）都认同，Nvidia 需要面临一定竞争，才能促使 AI 基础设施价格降低。
不过，降低价格并非 Nvidia 的职责所在。Nvidia 理应在当下尽可能获取更多收入和利润，这是企业的正常经营策略。就像 IBM、Microsoft 和 Intel 等公司都曾有过类似阶段。例如，Nvidia 在 2020 - 2022 年试图以 400 亿美元收购 Arm，这在当时看来就是一种资金的大规模投入行为。虽然该交易最终未达成，Nvidia 还向软银支付了 12.5 亿美元以取消因反垄断监管机构反对而无法推进的交易，但这或许也让 Nvidia 汲取了经验教训。倘若 Arm 交易成功，按照 Nvidia 联合创始人兼首席执行官黄仁勋最初的设想，NVLink 及其相关的 NVSwitch 知识产权可能会通过 Arm 的知识产权体系，以合理价格向所有人开放使用。
在 Arm 交易告吹后，我们在 2022 年初就提醒过 Nvidia，即便无法通过收购 Arm 获得某些技术，它仍可通过与 Arm 更紧密合作，或者通过自身的知识产权许可来实现类似目标。或许 Nvidia 已经与超大规模企业和云构建商展开了相关谈判，这些企业有意自行设计 CPU 和 AI 加速器，并交由台积电进行制造。
实际上，已有一家 CPU 制造商与 Nvidia 达成了此类许可协议，那就是 IBM。IBM 与 Nvidia 合作，利用 NVLink 9 端口打造了将其 Power9 处理器与 Nvidia 的 “Volta” V100 GPU 加速器相结合的百亿亿次级系统。在此过程中，技术实现并不复杂。IBM 开发了自己的 “BlueLink” OpenCAPI PHY 以及运行其上的 NUMA 协议，用于在共享内存 NUMA 设置中连接 Power9 处理器。在此基础上添加 NVLink 协议，并非难事。正因如此，IBM 成为了橡树岭国家实验室的 “Summit” 超级计算机和劳伦斯利弗莫尔国家实验室的 “Sierra” 超级计算机的主要承包商，而 Nvidia 也在其中提供了大量支持。
然而，IBM 和 Nvidia 未能就如何在这两个美国能源部实验室的百万兆次级系统上进一步合作达成一致，并且 IBM 并未在 Power10 芯片上支持 NVLink 3.0 端口，尽管从技术角度而言这是可行的，而且在经济层面或许也更为有利。也正因为此，AMD 抓住机遇，赢得了相关交易，获得了振兴其数据中心 GPU 业务的契机（以往 AMD 在该领域表现平平，但如今情况已有所不同）。
当然，Nvidia 的 “Grace” CG100 Arm 服务器处理器配备了 NVLink 链接。这些链接经过聚合处理，在 CPU 与 “Hopper” H100 和 H200 GPU 加速器，或 “Blackwell” B100、B200 和 B300 GPU 加速器之间，为每个端口带来了 600 GB / 秒的聚合带宽。
NVLink 的链路具备灵活特性：每个链路包含两个通道用于双向流量，可通过多个链路构建物理端口；通道的速度因信号上 PAM - 4 调制的生成和使用情况而异，具体如下：
NVLink 1.0：通道运行速度为 20 Gb / 秒，每个链路有 8 个通道，每个链路的双向带宽为 40 GB / 秒。每个 Pascal P100 加速器配备四个链路，Nvidia 借此在 GPU 之间以及具有实验性 NVLink 1.0 端口的 Power8 CPU 之间提供了 160 GB / 秒的带宽。
NVLink 2.0：通道运行速度提升至 25 Gb / 秒（与 IBM 的 BlueLink 速度相同），每个链路依旧为 8 个通道，每个链路的双向带宽达到 50 GB / 秒。V100 GPU 总共设有 6 个链路，可在设备之间提供 300 GB / 秒的带宽。
NVLink 3.0：在 NVlink SerDes 中引入 PAM - 4 调制，通道带宽翻倍，但每个链路的通道数量减半至 4 个，使得每个链路的双向带宽仍维持在 50 GB / 秒。“Ampere” A100 GPU 拥有十二个 NVLink 3.0 端口，总带宽为 600 GB / 秒（这也是 Grace CPU 的带宽配置）。
NVLink 4：信号传输速率进一步提高到 100 Gb / 秒（基于原生 50 Gb / 秒并添加 PAM - 4 编码），每个链路有 2 个通道，每个链路的双向信号传输速率同样为 50 GB / 秒。Hopper 和 Blackwell 芯片各自拥有 18 个链路（Blackwell 芯片组的情况也是如此），从而为每个 Hopper 或 Blackwell GPU 小芯片提供 900 GB/s 的双向带宽（Blackwell 套接字包含两个小芯片，可获得 1.8 TB / 秒的 NVLink 4.0 带宽）。
UALink：如我们在 4 月份所阐述的，UALink 能够整合更多通道和链路，以增加加速器和 CPU 的进出带宽。UALink 的通道运行速度为 200 Gb / 秒（原生 100 Gb / 秒信令加上 PAM - 4 编码），每个链路包含 4 个通道，可实现 800 Gb / 秒的链路速度，即每个链路的双向速度达到 1,600 Gb / 秒。将四个这样的链路整合，可创建一个运行速度为 800 GB / 秒的 UALink 端口，这与 NVLink 4 为 Hopper 和 Blackwell 提供的每个端口 900 GB / 秒的速度已较为接近。
通过 NVLink Fusion，Nvidia 并非完全开放 NVLink 和 NVSwitch，也无意营造一个完全自由竞争的环境（无论从何种角度理解），并非任何制造 CPU 或加速器的企业都能随意将 NVLink 内存技术应用到自身设备上。
NVLink Fusion 有两个已获批的应用场景：
场景一：将 NVLink 端口添加到定制 CPU，例如超大规模提供商和云构建商为自身设计的 CPU 端口。这一应用场景基于这样的假设，即这些超大规模提供商和云构建商将利用 NVLink 把 Nvidia GPU 加速器连接到他们自主研发的加速器上。从硬件架构图来看，硬件堆栈包括 Spectrum - X 交换设备以及 BlueField 或 ConnectX 网络接口卡，这些设备连接到 CPU，并与东西向和南北向网络相连。其中，Nvidia GPU 通过 NVSwitch 交叉耦合，并由 Nvidia 的 Mission Control 系统控制软件进行管理。目前尚不确定将 NVLink 添加到定制 CPU 芯片时是否需要所有这些组件，但我们暂且假定是需要的。
场景二：利用 Nvidia 当前的 Grace CG100 Arm 处理器，或未来的 “Vera” CV100 CPU 以及 NVLink C2C die - to - die 互连技术，连接到具备 NVLink Fusion 端口的定制加速器。同样，前端的 Spectrum - X 和 BlueField/Connect - X 网络，以及后端的 NVSwitch 和 Mission Control 网络都围绕该应用场景构建。与上述情况类似，目前也不确定将 NVLink 端口添加到定制加速器时是否必须采用这种方式。
无论哪种应用场景，都可以在定制 CPU 和定制加速器上使用 NVLink 端口，既可以通过 NVSwitch 互连，也可以像超级芯片那样直接连接，还可以在多对多配置（包含两个、四个或八个加速器）中使用。目前主要就是上述两种应用选项。
Nvidia 与 Cadence Design Systems 和 Synopsis 作为技术合作伙伴，协助客户将 NVLink 端口设计集成到他们的 CPU 或加速器中。Alchip、Astera Labs、Marvell 和 MediaTek 等公司具备定制设计能力，能够将 NVLink Fusion 端口添加到相关设备中。富士通和高通已签署协议，计划将 NVLink Fusion 端口应用于其数据中心 CPU 设计。高通也有涉足 AI 加速器领域的意向，并且可能也会为这些设备添加 NVLink 端口，但显然，他们需要将设备与 Nvidia 的 Grace 或 Vera CPU 相连接才能实现这一目标。
来源：EETOP半导体社区
