¿Qué es NVLink? Cómo funciona, ancho de banda y usos de GPU
2026-07-31 1356

Los sistemas modernos multi-GPU dependen de más que del rendimiento bruto de la GPU. La rapidez con que los procesadores intercambian datos, acceden a la memoria y trabajan juntos puede tener un efecto importante en la velocidad general. Este artículo explica el ancho de banda y las generaciones de NVLink, compara NVLink con PCIe y NVSwitch, cubre el acceso a memoria de GPU y NVLink-C2C, y muestra cómo se utiliza NVLink en cargas de trabajo de IA y HPC. También te ayuda a decidir cuándo NVLink puede mejorar el rendimiento y cuándo PCIe puede ser suficiente.

Catálogo

¿Qué es NVLink?

NVLink es la tecnología de interconexión de alta velocidad de NVIDIA para transferir datos entre GPUs y otros procesadores en sistemas de computación acelerada. Su principal objetivo es reducir los cuellos de botella de comunicación cuando varios procesadores necesitan intercambiar grandes cantidades de datos mientras trabajan juntos.

En sistemas multiprocesador, el rendimiento puede estar limitado por la rapidez con que se mueven los datos entre dispositivos. NVLink proporciona un camino de comunicación de alta capacidad y baja latencia que reduce los retrasos de transferencia y ayuda a los procesadores conectados a intercambiar datos de manera más eficiente.

¿Cómo funciona NVLink?

Figura 2. Ruta de comunicación GPU a GPU NVLink

NVLink crea un camino de comunicación de alta velocidad entre GPUs compatibles y otros procesadores. Cuando dos GPUs necesitan intercambiar datos, el acceso entre pares puede permitir que los datos se muevan directamente entre sus espacios de memoria en lugar de enviar cada transferencia a través de la memoria de la CPU.

NVLink admite comunicación bidireccional, por lo que los datos pueden moverse en ambas direcciones entre los procesadores conectados. Varias conexiones NVLink también pueden trabajar juntas, proporcionando un camino más amplio para las transferencias de datos de procesador a procesador.

NVLink proporciona el camino físico para esta comunicación, mientras que el software decide cómo y cuándo utilizar el camino. CUDA, los controladores de dispositivo, NCCL y la aplicación gestionan las transferencias. Cuando el acceso entre pares es compatible y está habilitado, una GPU puede leer, escribir o copiar datos en la memoria de otra GPU a través de la conexión NVLink disponible.

Generaciones y ancho de banda de NVLink

El ancho de banda de NVLink ha aumentado con cada arquitectura principal de GPU de NVIDIA. El NVLink de primera generación apareció con la Tesla P100 basada en Pascal, que admitía cuatro conexiones NVLink y hasta 160 GB/s de ancho de banda total bidireccional por GPU. La Volta V100 aumentó esto a seis enlaces y 300 GB/s por GPU.

La tercera generación de NVLink llegó con el Ampere A100. El A100 admite 12 conexiones NVLink y hasta 600 GB/s de ancho de banda total bidireccional por GPU. La Hopper H100 aumentó el número de enlaces a 18, elevando el ancho de banda de NVLink de cuarta generación a 900 GB/s por GPU.

La NVLink de quinta generación llegó con Blackwell, aumentando el ancho de banda total bidireccional a 1.8 TB/s por GPU. La NVLink de sexta generación, asociada con la plataforma Rubin, aumenta el máximo a 36 enlaces y hasta 3.6 TB/s por GPU.

Generación NVLink	Arquitectura NVIDIA	Ejemplo GPU o Plataforma	Máximo Enlaces por GPU	Máximo Ancho de Banda Bidireccional por GPU
NVLink 1	Pascal	P100	4	160 GB/s
NVLink 2	Volta	V100	6	300 GB/s
NVLink 3	Ampere	A100	12	600 GB/s
NVLink 4	Hopper	H100	18	900 GB/s
NVLink 5	Blackwell	GPUs Blackwell	18	1.8 TB/s
NVLink 6	Rubin	Plataforma Rubin	36	3.6 TB/s

Ancho de banda por enlace frente a ancho de banda total de NVLink

El ancho de banda por enlace y el ancho de banda total por GPU describen valores diferentes. Una GPU puede contener varias conexiones NVLink, por lo que el ancho de banda total por GPU combina el ancho de banda disponible de todos los enlaces soportados.

Por ejemplo, el H100 tiene 18 conexiones NVLink 4. Cada enlace proporciona 50 GB/s de ancho de banda bidireccional, lo que da un total máximo de 900 GB/s por GPU. Blackwell utiliza 18 conexiones NVLink 5 a 100 GB/s de ancho de banda bidireccional por enlace, produciendo hasta 1.8 TB/s por GPU.

Estas cifras representan el ancho de banda máximo de la interfaz. El ancho de banda real entre dos GPUs puede ser menor dependiendo del número de enlaces activos entre ellas, la topología del sistema y la configuración del hardware. Al leer las especificaciones de NVLink, siempre verifique si el valor se refiere a un enlace, una GPU, o toda la tela de NVLink.

NVLink vs PCIe vs NVSwitch

Figura 3. Comparación de NVLink vs PCIe vs NVSwitch

NVLink, PCIe y NVSwitch mueven datos dentro de los sistemas GPU, pero cumplen diferentes funciones. PCIe es una interfaz de propósito general que conecta GPUs y otros dispositivos al sistema host. NVLink proporciona comunicación de alta velocidad entre procesadores NVIDIA soportados, mientras que NVSwitch trabaja con NVLink para conectar grupos más grandes de GPUs a través de un tejido de conmutación compartido.

Característica	NVLink	PCIe	NVSwitch
Qué es	Interconexión de procesadores de alta velocidad	Interfaz de sistema de propósito general	Tejido de conmutación utilizado con NVLink
Propósito principal	Comunicación rápida entre GPUs y procesadores soportados	Conectar GPUs, SSDs, NICs y otros dispositivos al sistema	Conectar muchas GPUs habilitadas para NVLink a través de un tejido
Comunicación GPU a GPU	Proporciona comunicación entre pares de alta capacidad	Soporta transferencias de GPU a GPU, pero el rendimiento depende de la topología de PCIe	Rutea el tráfico de NVLink entre múltiples GPUs
Ruta de datos	Enlaces directos de procesadores o conexiones a través de NVSwitch	El tráfico se mueve a través de complejos raíz PCIe y conmutadores	Proporciona rutas conmutadas entre GPUs conectadas a NVLink
Latencia	Diseñado para comunicación de procesadores de baja latencia	Adecuado para I/O general, pero los caminos GPU a GPU pueden involucrar más infraestructura del sistema	Agrega conmutación mientras mantiene GPUs conectadas a través de caminos NVLink de alta velocidad
Topología	Enlaces directos punto a punto o enlaces a NVSwitch	Complejos raíz de CPU y conmutadores PCIe	Tejido GPU conmutado y altamente conectado
Compatibilidad	Requiere hardware NVIDIA soportado	Amplio soporte estándar de la industria	Requiere plataformas NVLink de NVIDIA soportadas
Mejor adecuado para	Sistemas multi-GPU con alta comunicación	Sistemas de una sola GPU o cargas de trabajo con tráfico limitado de GPU a GPU	Sistemas grandes donde muchas GPUs necesitan comunicación frecuente
Principal limitación	Limitado a hardware y plataformas NVIDIA compatibles	Puede convertirse en un cuello de botella en cargas de trabajo pesadas entre GPUs	Aumenta el costo de hardware y la complejidad del sistema

En términos simples, PCIe conecta dispositivos al sistema, NVLink proporciona comunicación de alta velocidad entre procesadores, y NVSwitch expande NVLink a configuraciones de GPU más grandes. NVSwitch no es un reemplazo de NVLink porque depende de las conexiones NVLink para transportar tráfico de GPU.

PCIe puede ser suficiente cuando la comunicación de GPU a GPU es limitada. NVLink se vuelve más útil cuando las GPUs intercambian datos con frecuencia, mientras que NVSwitch se utiliza principalmente cuando muchas GPUs habilitadas para NVLink necesitan comunicación escalable a través del mismo sistema.

¿Combina NVLink la Memoria de GPU?

NVLink no combina automáticamente la VRAM de varias GPUs en un solo conjunto de memoria física más grande. Dos GPUs con 80 GB de memoria cada una siguen teniendo espacios de memoria separados de 80 GB en lugar de convertirse en una GPU con 160 GB de VRAM local.

Cuando el hardware y la topología lo permiten, el acceso a la memoria entre pares de CUDA permite que una GPU acceda a la memoria de otra GPU. Una GPU puede leer, escribir o copiar datos a la memoria del par sin tener que mover primero los datos a través de la memoria de la CPU. NVLink proporciona un camino de alto ancho de banda para estas transferencias cuando las GPUs están conectadas a través de él.

Sin embargo, la memoria GPU remota sigue estando físicamente conectada a otra GPU. El software aún decide dónde se almacenan los datos, qué GPU los accede y si los datos deben ser copiados o accedidos de forma remota. La Memoria Unificada de CUDA puede simplificar el acceso a la memoria entre dispositivos, pero no elimina la separación física entre la memoria GPU.

Por esta razón, la colocación de la memoria sigue siendo importante en sistemas multi-GPU. El acceso frecuente a la memoria GPU remota puede afectar el rendimiento incluso cuando NVLink proporciona una conexión más rápida.

Cómo NVLink-C2C Extiende NVLink a Conexiones de Chip a Chip

Figura 4. Conexión NVLink-C2C Entre CPU y GPU

NVLink-C2C extiende NVLink de NVIDIA desde conexiones de procesador a nivel de placa a enlaces cortos de chip a chip dentro de un paquete o superchip. Puede conectar CPUs, GPUs y otros núcleos de procesadores compatibles, permitiéndoles intercambiar datos a través de una conexión estrechamente integrada.

En plataformas NVLink-C2C coherentes soportadas, los procesadores conectados también pueden mantener una vista consistente de la memoria. Por ejemplo, Grace Hopper utiliza NVLink-C2C entre la CPU Grace y la GPU Hopper, permitiendo que ambos procesadores accedan a la memoria a través de la conexión mientras su memoria física permanece separada.

La principal diferencia es dónde se utiliza cada tecnología. El NVLink estándar conecta comúnmente GPUs separadas o conecta GPUs a NVSwitch a nivel de placa o sistema. NVLink-C2C acerca el mismo concepto de interconexión de alta velocidad a los propios procesadores, haciéndolo adecuado para conexiones de CPU a GPU, CPU a CPU y otras conexiones de chip a chip estrechamente integradas.

NVLink para Cargas de Trabajo de IA y Multi-GPU

NVLink es más útil cuando varias GPUs trabajan en la misma carga de trabajo y necesitan intercambiar datos con frecuencia. En estos sistemas, el rendimiento depende no solo de la velocidad de cálculo de la GPU sino también de cuán rápido se mueven los datos entre aceleradores.

Durante el entrenamiento de IA, las GPUs pueden intercambiar gradientes, parámetros, activaciones y resultados intermedios. NVIDIA NCCL maneja muchas de estas transferencias a través de operaciones como AllReduce, AllGather, ReduceScatter, Broadcast y comunicación punto a punto.

El paralelismo de tensores crea comunicación frecuente porque partes del mismo cálculo se ejecutan en diferentes GPUs y los resultados parciales deben ser intercambiados antes de que se pueda continuar con el procesamiento. El paralelismo de modelos también mueve datos entre GPUs a medida que se procesan diferentes partes del modelo.

La inferencia de LLM multi-GPU tiene requisitos similares cuando un gran modelo se divide entre varias GPUs. Si una GPU debe esperar datos de otra, los retrasos en la comunicación pueden reducir el rendimiento general.

Las cargas de trabajo de HPC como simulaciones científicas, dinámica de fluidos computacional y modelado molecular también intercambian datos de frontera, resultados parciales e información de sincronización entre GPUs. Transferencias más rápidas entre GPUs pueden reducir este tiempo de espera y ayudar a que la carga de trabajo se ejecute de manera más eficiente.

Para cargas de trabajo con mucha comunicación, NVLink puede reducir el tiempo que las GPUs pasan intercambiando datos y ayudar a los sistemas multi-GPU a escalar de manera más eficiente.

¿Cuándo Necesitas NVLink?

NVLink es una buena opción cuando varias GPUs trabajan en la misma tarea y intercambian datos con frecuencia. Puede ayudar cuando la comunicación de GPU a GPU está ralentizando la carga de trabajo y el sistema soporta NVLink.

NVLink es una mejor opción cuando:

• Varias GPUs trabajan juntas en una carga de trabajo

• Grandes cantidades de datos se mueven entre GPUs

• La comunicación entre GPUs está limitando el rendimiento

• Las GPUs y la plataforma soportan NVLink

• El software puede hacer uso de la comunicación multi-GPU

PCIe puede ser suficiente cuando:

• El sistema utiliza solo una GPU

• Múltiples GPUs manejan tareas separadas

• El tráfico de GPU a GPU es bajo

• PCIe ya cumple con el rendimiento requerido

• Un menor costo y un soporte de hardware más amplio son más importantes

El costo y el diseño del sistema también son relevantes. Los sistemas compatibles con NVLink pueden requerir GPUs compatibles, la topología del sistema adecuada, conmutación adicional y más potencia y refrigeración en configuraciones más grandes.

En general, NVLink es más útil cuando la comunicación entre GPUs es un claro límite de rendimiento. Si las GPUs rara vez intercambian datos o PCIe ya proporciona suficiente ancho de banda, NVLink puede añadir costo y complejidad sin una clara ganancia en rendimiento.