Los Modelos de IA Abiertos Permiten a las Empresas Construir Sistemas que Realmente Poseen. Así es Como Se Ve.

Puntos clave

• Harvey, una empresa de IA legal, realizó entrenamiento posterior de NVIDIA Nemotron 3 Ultra en su propio benchmark legal y equiparó modelos cerrados líderes con al menos 10 veces menor costo por ejecución.
• Arcee AI logró costos de inferencia de aproximadamente 90 centavos por millón de tokens de salida en Nemotron, aproximadamente 20 veces más barato que modelos cerrados de frontera comparables.
• Holotron 3 Nano de H Company obtuvo una puntuación superior al 76% en OSWorld-Verified, un benchmark de tareas informáticas reales, igualando modelos de frontera líderes a una fracción del costo.
• LangChain ajustó su marco de agentes para Nemotron 3 Ultra sin reentramiento del modelo y alcanzó la máxima precisión de agentes entre modelos abiertos a aproximadamente 10 veces menor costo que alternativas cerradas.
• YTL AI Labs realizó entrenamiento posterior de un modelo Nemotron para el idioma malayo, poniendo IA personalizada localmente a disposición de la comunidad de desarrolladores de Malasia.

La mayoría de las empresas que desean IA hoy enfrentan el mismo problema silencioso. Los modelos grandes y poderosos de OpenAI, Google y Anthropic son cajas negras. Puedes enviarles preguntas. No puedes mirar adentro, cambiar lo que saben, ni ejecutarlos en tus propios servidores sin enrutar tus datos a través de sistemas de otra persona.

Para un hospital o un bufete de abogados, eso importa mucho.

NVIDIA ha estado posicionando su familia de modelos abiertos Nemotron, es decir, modelos cuyos funcionamientos internos están completamente disponibles para inspección y modificación, como la respuesta a ese problema. Una entrada de blog publicada esta semana por la empresa expone lo que parece en la práctica, con números adjuntos.

La startup de IA legal Harvey entrenó Nemotron 3 Ultra en su propio benchmark legal interno. El resultado equiparó la precisión de los mejores modelos comerciales cerrados en tareas legales complejas, con un costo que NVIDIA dice es al menos 10 veces menor por ejecución. No es un error de redondeo. Para un bufete que ejecuta miles de revisiones de documentos al mes, los ahorros se componen rápidamente.

Glean construyó un producto llamado Waldo, una herramienta de búsqueda para datos empresariales, combinando Nemotron con un modelo cerrado más grande. Waldo entrega respuestas más rápido y utiliza menos tokens, las pequeñas unidades de texto que los modelos de IA procesan, lo que reduce directamente los costos computacionales.

Arcee AI avanzó aún más en costos. Al ejecutar Nemotron en la plataforma de hardware Blackwell de NVIDIA, la generación de chips que siguió a la generación anterior Hopper, la empresa redujo los costos de inferencia a aproximadamente 90 centavos por millón de tokens de salida. Modelos cerrados de frontera comparables cuestan aproximadamente 20 veces más por el mismo trabajo.

No todos los casos de uso se tratan de ley o costo. YTL AI Labs realizó entrenamiento posterior de un modelo Nemotron específicamente para el idioma malayo, creando una IA personalizada que un proveedor global tendría pocas razones comerciales para construir.

Abridge y Heidi Health están aplicando modelos Nemotron personalizados a la documentación clínica, la tarea que consume tiempo de convertir una conversación médico-paciente en una nota médica estructurada. Cometer errores en esto tiene consecuencias reales, que es exactamente por qué esos equipos desean visibilidad total en cómo fue entrenado su modelo y la capacidad de corregirlo cuando no cumple.

¿Deberían las empresas abandonar completamente los modelos cerrados?

No. El propio marco de NVIDIA dice que los modelos abiertos y cerrados funcionan mejor juntos. Un modelo general potente puede manejar una planificación compleja mientras que un modelo abierto especializado más pequeño ejecuta tareas específicas a menor costo. Piénsalo como usar un especialista costoso para la decisión de juicio difícil y un generalista bien entrenado para el trabajo rutinario.

El argumento práctico para modelos abiertos no es que superen a los cerrados en todas las tareas hoy. Es que posees lo que construyes. Puedes probarlo contra tus propios datos, mejorarlo cuando falla, y mantener tu información más sensible fuera de servidores de terceros. Para industrias donde una respuesta incorrecta tiene consecuencias legales o clínicas, ese control no es opcional.