NVIDIA lleva la competencia de la IA de las GPU al sistema completo

Centros de datos a escala de gigavatios cambian la competencia por la IA

Notipress.- NVIDIA está ampliando el terreno en el que compite por la infraestructura de inteligencia artificial. Aunque fabricantes de chips y grandes compañías tecnológicas desarrollan alternativas a sus GPU, la compañía está construyendo también los componentes encargados de coordinar memoria, almacenamiento, redes y procesamiento dentro de centros de datos cada vez más grandes. De acuerdo con unanálisis de TechCrunch, este cambio puede trasladar parte de la competencia desde el chip individual hacia la eficiencia del sistema completo.

Vera Rubin representa esa estrategia. La arquitectura combina la GPU Rubin con la CPU Vera, el acelerador de inferencia Groq 3 LPX y racks especializados para almacenamiento y redes. Cada pieza cumple una función diferente alrededor del procesamiento: no todas generan tokens, pero participan en mantener alimentadas a las unidades de cómputo y reducir los tiempos en que permanecen esperando datos.

Jason Hardy, vicepresidente de tecnología de almacenamiento de NVIDIA, explicó que Vera busca responder a una limitación concreta: la cantidad de memoria que puede instalarse en un servidor es finita. Conforme aumenta la capacidad de procesamiento, también crece la necesidad de mover grandes volúmenes de información hacia las GPU en el momento adecuado. Hardy aseguró que determinadas operaciones obtienen mejoras de hasta tres veces con la aceleración de Vera y que esto permite aprovechar mejor el rendimiento de la memoria flash.

Ese problema también aparece en diseños rivales, aunque con soluciones distintas. OpenAI describió su chip Jalapeño como un sistema orientado a minimizar el movimiento de datos y los retrasos de comunicación, manteniendo una carga de trabajo dentro de un sistema conectado. Mientras NVIDIA apuesta por coordinar componentes especializados, Jalapeño apunta a reducir desde el diseño la cantidad de información que debe trasladarse entre ellos.

Frente a centros de datos que alcanzan escalas de gigavatios, la eficiencia deja de depender únicamente de sumar ciclos de procesamiento. El tráfico de datos, los cuellos de botella de memoria y la coordinación entre distintos tipos de hardware pasan a formar parte del costo y del rendimiento de la infraestructura.

Competidores de NVIDIA pueden disputar también este nuevo nivel. Fabricantes de chips y proveedores de nube desarrollan sus propias arquitecturas, por lo que la expansión hacia CPU, redes y almacenamiento no garantiza una ventaja permanente. Sin embargo, el cambio amplía el campo de batalla: construir una GPU rival ya no es el único desafío; también importa conseguir que todo el sistema funcione con la mayor eficiencia posible.