Nvidia presenta sus nuevos modelos abiertos Nemotron 3.5 Bolt y Nemotron 3.5, cinco veces más rápido y personalizable.
Nvidia ha presentado sus nuevos modelos abiertos Nemotron, con el modelo Nemotron 3.5 Super VL, que llega con capacidades mejoradas y logra ser cinco veces más rápido, preciso y personalizable, y los modelos Nemotron 3.5 Bolt de tamaño más reducido para agentes locales.
La tecnológica ha subrayado cómo los nuevos integrantes de la familia Nemotron son modelos abiertos que cubren "toda la gama de implementaciones de agentes". Esto es, desde grandes servidores empresariales hasta dispositivos periféricos y "hardware" local.
En concreto, el nuevo modelo Nemotron 3.5 Super VL cuenta con 120.000 millones de parámetros y cuenta con capacidades para la finalización de tareas más rápida y una mayor precisión para agentes especializados que "funcionan de forma continua".
Nvidia ha asegurado que este modelo cuenta con una alta precisión a la hora de ejecutar tareas multimodales de agentes, como el seguimiento de instrucciones, el uso de herramientas o flujos de trabajo empresariales de varios pasos, según ha explicado en un comunicado.
Sin embargo, destaca notablemente por ofrecer un rendimiento comparable con el modelo de razonamiento más grande de compañía, Nemotron 3 Ultra, pero utilizando aproximadamente "una quinta parte de la cantidad de parámetros".
Asimismo, según sus pruebas, es un modelo cinco veces más rápido que el siguiente mejor en el sector, siendo "el más rápido de su clase", según Nvidia. Esto se traduce en que puede impulsar agentes para completar tareas de un gran volumen, pero con mayor rapidez en los flujos de trabajo.
Nvidia también ha destacado las capacidades de procesamiento del lenguaje de visión de Nemotron 3.5 Super VL, que cuenta con reconocimiento óptico de caracteres, tablas, gráficos e información estructurada en documentos visuales. Con ello, puede procesar una página web o archivo, extraer texto, comprender imágenes y ofrecer información relacionada a partir de los resultados.
Además de todo ello, al tratarse de un modelo abierto, las organizaciones pueden utilizarlo entrenándolo con sus propios datos y, tras ello, implementarlo en su propia infraestructura, resultando así en un modelo completamente personalizable.
NEMOTRON 3.5 BOLT
Por otra parte, Nvidia ha presentado dos nuevos modelos "edge" más reducidos pensados para agentes locales. Es el caso del Nemotron 3.5 Bolt 74B-A9B, de 24 GB y optimizado para equilibrar inteligencia y velocidad por GB, y Nemotron 3.5 Bolt E4B, de 4 GB y optimizado específicamente para agentes conversacionales rápidos.
En concreto, la compañía ha matizado que Bolt 74B-A9B de 24 GB permite ejecutar tareas agénticas cotidianas de forma local en los nuevos procesadores NVIDIA RTX Spark, presentados en junio y ya introducidos en algunos dispositivos como ordenadores ASUS y Microsoft.
Según Nvidia, ambas versiones del modelo pueden utilizar una "cuantización nativa de 2 bits para adaptarse a 24 GB de memoria y ejecutarse junto con otras aplicaciones". Esto significa que ofrecen un resultado equilibrado entre inteligencia y velocidad, en comparación con otros modelos de consumo de memoria similar. En la práctica, pueden realizar la mayoría de las tareas, por complejas que sean, pero de forma mucho más rápida.
La diferencia entre ambas versiones es que con Bolt 74B-A9B de 24 GB, se pueden ejecutar tareas con herramientas de agentes locales populares, incluida la búsqueda en la web o la escritura y depuración de código, todo ello sin enviar la carga de trabajo a la nube.
Por su parte, Bolt E4B de 4 GB está más diseñado para agentes físicos y conversacionales en entornos de chips GeForce RTX, Jetson y RTX/DGX Spark. Es decir, para potenciar asistentes de voz locales rápidos, personajes interactivos o interfaces integradas.
Con todo ello, el nuevo modelo Nemotron 3.5 Super VL, junto al Nemotron Bolt 74B-A9B, ya están disponibles para todos los usuarios a través de Hugging Face, Open Router y Nvidia NIM. Por su parte, el modelo Nemotron Bolt 4EB se pondrá a disposición de los usuarios a partir del 23 de octubre.
Infobae
