Los modelos de IA abiertos permiten que las empresas construyan sistemas que realmente poseen. Así es como se ve.

Puntos clave

• Harvey realizó entrenamiento posterior de Nemotron 3 Ultra en su propio benchmark legal y equiparó modelos cerrados líderes en tareas legales complejas con un costo al menos 10 veces menor por ejecución.
• Arcee AI redujo los costos de inferencia a aproximadamente 90 centavos por millón de tokens de salida, aproximadamente 20 veces más barato que modelos de frontera cerrados comparables.
• Holotron 3 Nano de H Company obtuvo una puntuación superior al 76% en OSWorld-Verified, un benchmark de tareas informáticas reales, mientras igualaba modelos de frontera líderes a una fracción del costo.
• LangChain ajustó su marco de agentes para Nemotron 3 Ultra sin reentrenamiento del modelo y alcanzó la precisión de agentes más alta entre modelos abiertos a aproximadamente 10 veces menor costo que alternativas cerradas.
• YTL AI Labs realizó entrenamiento posterior de un modelo Nemotron para la lengua malaya, poniendo IA personalizada localmente en manos de la comunidad de desarrolladores de Malasia.

La mayoría de las empresas que quieren IA hoy se enfrentan al mismo problema silencioso. Los grandes y poderosos modelos de OpenAI, Google y Anthropic son cajas cerradas: puedes enviarles preguntas, pero no puedes mirar dentro, cambiar lo que saben, o ejecutarlos en tus propios servidores sin enrutar tus datos a través de la infraestructura de otro.

Para un hospital o un bufete de abogados, esto importa enormemente.

NVIDIA ha estado posicionando su familia Nemotron de modelos abiertos, es decir, modelos cuyos pesos y funcionamiento están completamente disponibles para inspección y modificación, como la respuesta. Una publicación de blog lanzada esta semana expone cómo se ve esto en la práctica, con números.

Harvey, la startup de IA legal, realizó entrenamiento posterior de Nemotron 3 Ultra en su propio benchmark legal interno y alcanzó precisión de clase frontera en tareas legales complejas. El costo fue al menos 10 veces menor por ejecución que alternativas cerradas líderes. No es un error de redondeo: para un bufete que ejecuta miles de revisiones de documentos mensualmente, los ahorros se acumulan rápidamente.

Glean construyó un producto llamado Waldo, una herramienta de búsqueda para datos de empresa, emparejando Nemotron con un modelo cerrado más grande. Waldo entrega respuestas más rápido y utiliza menos tokens, las pequeñas unidades de texto que los modelos de IA procesan, reduciendo directamente los costos de computación.

Arcee AI empujó el costo aún más lejos. Ejecutando Nemotron en el hardware Blackwell de NVIDIA, la generación de chip que sigue a Hopper, la empresa redujo la inferencia a aproximadamente 90 centavos por millón de tokens de salida. Cerrar esa brecha importa: es la diferencia entre experimentos de IA que permanecen como experimentos y los que llegan a producción.

No todos los casos de uso se tratan de costo. YTL AI Labs construyó una variante Nemotron sintonizada específicamente para la lengua malaya, una herramienta que ningún proveedor global tenía mucha razón comercial para crear. Abridge y Heidi Health están aplicando modelos Nemotron personalizados a documentación clínica, convirtiendo conversaciones doctor-paciente en notas médicas estructuradas. Equivocarse en esto tiene consecuencias reales, que es exactamente por qué esos equipos necesitan visibilidad total en cómo fue entrenado su modelo y la capacidad de corregirlo cuando falla.

Cubrimos la presión de costo que empuja a las empresas hacia este tipo de flexibilidad en nuestro artículo del 15 de julio sobre demanda de chips y escrutinio empresarial.

¿Deberían las empresas abandonar completamente los modelos cerrados?

No. El propio marco de NVIDIA dice que los modelos abiertos y cerrados funcionan mejor juntos. Un poderoso modelo de propósito general maneja la planificación compleja; un modelo abierto especializado más pequeño ejecuta tareas específicas a menor costo. Piénsalo como usar un especialista costoso para la difícil decisión de juicio y un generalista bien entrenado para el trabajo rutinario.

El argumento práctico para modelos abiertos no es que superen a los cerrados en cada tarea hoy. Es que posees lo que construyes. Puedes probar contra tus propios datos, mejorarlo cuando falla, mantener información sensible fuera de servidores de terceros. Para industrias donde una respuesta incorrecta tiene consecuencias legales o clínicas, ese control no es opcional.

Lo que observaría: si las afirmaciones de costo se mantienen a escala empresarial genuina, o si los ahorros se erosionan una vez que los equipos agregan la infraestructura especializada, canalizaciones de ajuste fino y arneses de evaluación que el despliegue de producción realmente necesita.