NVLink
概要

パソコンやサーバでは、拡張スロットの標準規格である「PCI Express」(PCIe)などを介してGPUを接続するのが一般的である。しかし、AIの学習や大規模な科学技術計算のような負荷の高い処理では、PCIeの転送速度がボトルネックとなり、複数のGPUを並列に動かしても性能を発揮しきれない課題があった。
NVLinkは、基板上のチップ同士を専用の経路で直接つなぐことで、この問題を緩和する。ポイント・ツー・ポイント接続方式(Point-to-Point)により装置同士を一対一で直結することで通信経路を単純化し、PCIeの数倍から十数倍に達する転送速度を実現している。複数のGPUがメモリ空間を共有し、一体となって動作できるようになる。
NVLinkの性能は、世代を重ねるごとに向上してきた。2022年時点の第4世代ではGPU1基あたり最大900GB/sの帯域幅を持ち、以降の世代でも拡大が続いている。近年の世代では、専用のスイッチチップである「NVLink Switch」を組み合わせることで、数十基から100基規模のGPUを相互接続し、サーバ1台の枠を超えた大規模なGPUクラスタを構成することも可能になっている。
NVLinkは登場当初、GPU同士の接続を主な用途としていたが、その後はGPUとCPUの接続にも利用範囲を広げている。また、チップ内部やパッケージ上でプロセッサ同士を高速に接続する技術としての展開も進んでいる。巨大な大規模言語モデル(LLM)の学習や推論、複雑なシミュレーション処理など、GPUを多数使う処理でGPU間の通信量が増える中、NVLinkによる高速な接続は計算全体の効率を左右する要素の一つになっている。スーパーコンピュータやAI向けのデータセンターにおいて、演算処理装置の性能を引き出すための基盤技術として活用が進んでいる。