Los nuevos modelos de recuperación de Nvidia reducen los costos de agentes de IA en un 14 por ciento

Puntos clave

• Nvidia's Nemotron 3.5 Embed 8B ocupó el primer lugar entre los modelos de recuperación densa en el ranking ViDoRe v3.1 a partir del 20 de octubre de 2026, con una puntuación de 61,17 nDCG@10.
• Añadir Nemotron 3.5 Rerank a un pipeline de agentes redujo los costos de tokens de inferencia aproximadamente un 14 por ciento en las propias pruebas de Nvidia.
• Los cinco nuevos modelos cubren incrustación (conversión de documentos en forma buscable), reranking (clasificación de resultados por relevancia verdadera) y análisis de documentos, y todos llevan licencias abiertas y comerciales.
• Nvidia obtuvo una puntuación de 72,6 en MIRACL Vision, un benchmark de recuperación de imágenes multilingüe que cubre 18 idiomas, superando al rival más cercano por 4,3 puntos.
• AI2Day ha seguido de cerca las noticias de infraestructura de Nvidia este mes, incluido un compromiso separado de IA urbana de 250 millones de dólares en Liverpool.

Cada vez que un agente de IA, software que puede llevar a cabo tareas multietapa por sí solo, no encuentra el documento correcto en el primer intento, busca de nuevo. Y de nuevo. Cada búsqueda adicional cuesta dinero porque consume tokens de inferencia, las unidades computacionales que miden cuánto trabajo realiza un modelo de lenguaje. A escala empresarial, con miles de consultas ejecutándose cada hora, esos tokens desperdiciados se acumulan rápidamente.

La respuesta de Nvidia es la colección expandida Nemotron 3.5 Retriever, anunciada el 20 de octubre de 2026 a través de un detallado post en Hugging Face. La colección añade cinco modelos construidos para dar a los agentes mejores pruebas en el primer intento.

¿Qué hacen realmente estos modelos?

Piense en las nuevas herramientas como un sistema de archivos de tres partes. Los modelos de incrustación convierten documentos en una forma que una computadora puede buscar rápidamente. El reranker luego toma los resultados de búsqueda y los reordena, empujando los documentos más genuinamente útiles hacia la parte superior. El analizador, llamado Nemotron 3.5 Parse con 631 millones de parámetros, extrae información estructurada de documentos sin procesar antes de que ocurra cualquiera de eso.

El buque insignia, Nemotron-3.5-Embed-8B-BF16, maneja tanto texto como imágenes. Puede buscar entre gráficos, tablas, infografías y esquemas, no solo prosa simple. Esto importa porque los documentos empresariales reales, como informes trimestrales o contratos de proveedores, mezclan todos estos formatos juntos.

Para equipos con presupuestos de hardware más ajustados, Nemotron-3.5-Embed-1B-BF16 destila la mayor parte de la capacidad del modelo más grande en un paquete más pequeño. Una tercera variante, Nemotron-3.5-Embed-1B-NVFP4, aplica cuantización, una técnica que reduce la huella de memoria de un modelo usando números de menor precisión, para implementaciones de alto rendimiento.

¿Se sostiene el ahorro de costos en la práctica?

Sí, según los benchmarks internos de Nvidia, aunque la verificación independiente aún está pendiente. En pruebas en tres benchmarks de recuperación estándar, ViDoRe v3, BRIGHT y BrowseComp-Plus, agregar el modelo Nemotron 3.5 Rerank 8B redujo los tokens totales que consumió un agente por tarea aproximadamente un 14 por ciento cuando se emparejó con el incrustador 8B, y un 13 por ciento con la versión 1B. La precisión de recuperación mejoró en ambos casos.

El reranker también superó a un modelo rival de Qwen en el ranking de reranking ViDoRe v3.1, con una puntuación de 60,49 frente a los 59,17 del Qwen-3-VL-Reranker-8B. El modelo de incrustación 1B más pequeño retuvo el 95,4 por ciento de la puntuación de benchmark del modelo 8B, que es un resultado significativo para las organizaciones que no pueden permitirse los requisitos de hardware del modelo más grande.

Para trabajo multilingüe, la recuperación de texto se evaluó en 34 idiomas, y la recuperación visual se probó en MIRACL Vision en 18 idiomas.

El panorama práctico es sencillo. Un agente de IA de un minorista a quien se le pide que señale productos en riesgo de desabastecimiento debe combinar gráficos de demanda, tablas de inventario y cronogramas de entrega de proveedores. Con recuperación débil, recorre documentos repetidamente antes de poder responder. Con un reranker más fuerte, la evidencia más relevante surge primero, el agente razona sobre ella una vez, y la factura de esa consulta se reduce.

AI2Day ha rastreado el gasto en infraestructura como una parte creciente de la historia de la IA este mes; nuestra cobertura reciente señaló que la infraestructura se triplicó silenciosamente en nuestra mezcla editorial incluso cuando los anuncios de modelos acaparaban los titulares. El movimiento de Nvidia aquí se ajusta a ese patrón: la compañía no está anunciando un nuevo modelo de lenguaje grande sino más bien la tubería que hace que los existentes sean más baratos de ejecutar.

Los cinco modelos llevan licencias abiertas y comerciales, lo que significa que una startup y una empresa Fortune 500 enfrentan la misma barrera de entrada: ninguna.

Preguntas frecuentes

¿Quién se beneficia más de estos modelos ahora mismo?

Las grandes organizaciones que ejecutan muchos agentes de IA simultáneamente, como instituciones financieras, empresas logísticas o sistemas de salud, verán las mayores reducciones de costos porque generan la mayoría de los tokens desperdiciados hoy.

¿Necesitan hacer algo los usuarios ordinarios?

No directamente. Estas son herramientas para desarrolladores y equipos de TI. Si usa una búsqueda o asistente basado en IA en el trabajo, el equipo de tecnología de su empleador necesitaría integrar estos modelos, después de lo cual las consultas simplemente costarían menos y devolverían mejores resultados.

¿Estos modelos son libres de usar comercialmente?

Sí. Los cinco modelos de la colección Nemotron 3.5 se distribuyen con licencias abiertas y comercialmente permisivas, lo que significa que las empresas pueden crear productos con ellos sin pagar una tarifa de licencia a Nvidia.