El startup de IA de Mira Murati lanzó su primer modelo. Quiere que las empresas sean dueñas de su IA, no que la alquilen.

Puntos clave

• Thinking Machines Lab lanzó Inkling el miércoles, su primer modelo de IA disponible públicamente, aproximadamente nueve meses después de que la empresa comenzara a construirlo.
• Inkling tiene 975 mil millones de parámetros totales (una medida de complejidad del modelo) pero activa solo aproximadamente 41 mil millones para cualquier tarea única, manteniéndolo más rápido y económico de ejecutar de lo que su tamaño sugeriría.
• El modelo es de peso abierto, lo que significa que cualquier empresa o desarrollador puede descargarlo y modificarlo de forma gratuita, a diferencia de ChatGPT o Gemini.
• Un estudio conjunto publicado a finales de junio encontró que un modelo personalizado construido utilizando métodos similares de peso abierto obtuvo una puntuación del 84,7% en pruebas de razonamiento financiero a aproximadamente una catorceava parte del costo operativo de los principales modelos de IA propietarios.
• Thinking Machines planea ganar dinero a través de Tinker, su plataforma de pago para entrenar y adaptar el modelo, no de la descarga del modelo en sí.

Mira Murati pasó años como directora de tecnología en OpenAI. Ahora está apostando en contra de lo que OpenAI vende.

Thinking Machines Lab, la startup que Murati fundó después de dejar OpenAI, lanzó su primer modelo de IA el miércoles. Se llama Inkling, y funciona de manera diferente a los productos de IA más conocidos.

ChatGPT y Google Gemini son sistemas cerrados. Pagas por usarlos. La empresa que los construyó mantiene control total. Inkling es de peso abierto, lo que significa que cualquier empresa o desarrollador puede descargar el modelo completo y adaptarlo a sus propias necesidades, sin costo alguno de Thinking Machines.

Ese es todo el argumento: una IA que una empresa entrena con sus propios datos superará a un modelo de propósito general que un laboratorio grande vende a todos.

La evidencia que lo respalda es genuinamente interesante. Bridgewater Associates, el fondo de cobertura más grande del mundo, trabajó con investigadores para tomar un modelo de IA de código abierto existente y entrenarlo aún más con el propio conocimiento financiero de Bridgewater. Ese modelo personalizado obtuvo una puntuación del 84,7% en pruebas de razonamiento financiero, superando a los principales productos de IA propietarios, a aproximadamente una catorceava parte del costo operativo. Los resultados provienen de un estudio que ambas empresas publicaron conjuntamente a finales de junio, no de un revisor independiente, así que tómalos con el escepticismo apropiado.

El director ejecutivo de Microsoft, Satya Nadella, planteó un punto relacionado en una publicación de blog el domingo. Las empresas que utilizan productos de IA cerrados, escribió, pagan dos veces: una en tarifas de suscripción, y otra al entregar el conocimiento empresarial integrado en sus indicaciones y correcciones, conocimiento que puede retroalimentar futuras versiones de modelos que no poseen.

Cubrimos el cambio más amplio hacia modelos de peso abierto solo dos días antes de este lanzamiento, reportando que los modelos de peso abierto chinos capturaron el 41% de las descargas de Hugging Face esta primavera.

Entonces, ¿Inkling realmente es bueno?

Thinking Machines dice claramente que Inkling no es el modelo de IA más potente disponible, cerrado o abierto. Apunta a un rendimiento constante y bien equilibrado a menor costo. La empresa dice que Inkling utiliza un tercio de los pasos de procesamiento del Nemotron 3 Ultra de Nvidia para alcanzar la misma puntuación en pruebas de codificación. Puede señalar incertidumbre en lugar de adivinar, y los usuarios pueden ajustar su esfuerzo de razonamiento hacia arriba o hacia abajo dependiendo de si quieren una respuesta cuidadosa o una rápida.

Inkling es enorme internamente, entrenado en 45 billones de tokens (los fragmentos de texto, imagen y datos de video que aprenden los sistemas de IA). Debido a su arquitectura de mezcla de expertos, donde solo una porción del modelo se activa por tarea, se mantiene práctico de ejecutar.

Thinking Machines ha sido cuidadosa con una cosa: Inkling fue parcialmente entrenado usando salidas de otros modelos de IA de peso abierto, incluyendo Kimi K2.5 de Moonshot AI, una práctica común llamada destilación. La empresa dice que su próximo modelo abandonará ese enfoque por completo.

¿De dónde provienen realmente los ingresos?

No de la descarga del modelo. Los ingresos provienen de Tinker, la plataforma de pago para ayudar a las empresas a ajustar y alojar sus propias versiones personalizadas de Inkling. Es una división sensata: regala los pesos, vende la experiencia para ponerlos a trabajar.

Aquí está el juicio honesto sobre esto. Los números de Bridgewater son convincentes pero son autorreportados, y Thinking Machines no ha dicho cómo equilibra sus costos informáticos contra ingresos que aún no son un enfoque principal. Lo que es real es la dirección: si tu organización tiene experiencia específica atrapada en trabajo pasado y en las cabezas de tu equipo, un modelo personalizado entrenado en ese conocimiento puede genuinamente superar a uno general a una fracción del costo. El camino hacia eso ahora es un poco más corto.