El laboratorio de IA de Mira Murati lanza su primer modelo. Quiere que las empresas posean su IA, no que la alquilen.

Puntos clave

• Thinking Machines Lab lanzó Inkling el miércoles, su primer modelo de IA disponible públicamente, aproximadamente nueve meses después de que la empresa comenzara a desarrollarlo.
• Inkling tiene 975 mil millones de parámetros totales (una medida de la complejidad del modelo), pero utiliza solo alrededor de 41 mil millones para cada tarea individual, manteniéndolo más rápido y más económico de ejecutar de lo que su tamaño sugeriría.
• El modelo es de código abierto, lo que significa que cualquier empresa o desarrollador puede descargarlo y modificarlo de forma gratuita, a diferencia de ChatGPT o Claude.
• Un estudio conjunto publicado a finales de junio descubrió que un modelo personalizado construido utilizando métodos de código abierto similares obtuvo una puntuación del 84,7% en pruebas de razonamiento financiero a aproximadamente una catorceava parte del costo de ejecución de los principales modelos de IA propietarios.
• Thinking Machines planea ganar dinero a través de Tinker, su plataforma de pago para entrenar y adaptar el modelo, no del modelo en sí.

Mira Murati pasó años como directora de tecnología en OpenAI. Ahora está apostando en contra de lo que OpenAI vende.

Thinking Machines Lab, la empresa emergente que Murati fundó después de dejar OpenAI, lanzó su primer modelo de IA el miércoles. Se llama Inkling y funciona de manera diferente a los productos de IA más conocidos que la mayoría de las personas ha escuchado.

ChatGPT, Claude y Google Gemini son todos sistemas cerrados. Pagas por usarlos. La empresa que los construyó mantiene el control total. Inkling es de código abierto, lo que significa que cualquier empresa o desarrollador puede descargar el modelo completo y reformularlo para satisfacer sus propias necesidades, sin cargo alguno de Thinking Machines.

Ese es el argumento completo. La empresa cree que la IA que una empresa entrena con sus propios datos y experiencia superará a un modelo de propósito general que un laboratorio grande vende a todos.

La evidencia que respalda ese argumento es genuinamente interesante. Bridgewater Associates, el fondo de cobertura más grande del mundo, trabajó con investigadores para tomar un modelo de IA de código abierto existente y entrenarlo aún más con el propio conocimiento financiero de Bridgewater. Ese modelo personalizado obtuvo una puntuación del 84,7% en pruebas de razonamiento financiero, superando a los principales productos de IA propietarios, mientras costaba aproximadamente una catorceava parte de lo que cuesta ejecutarlos. Los resultados provienen de un estudio que ambas empresas publicaron conjuntamente a finales de junio, no de un revisor independiente, así que toma esto con el escepticismo apropiado.

El director ejecutivo de Microsoft, Satya Nadella, hizo un punto relacionado en una entrada de blog el domingo. Las empresas que utilizan productos de IA cerrados, escribió, pagan dos veces: una vez en cuotas de suscripción, y nuevamente al entregar el conocimiento empresarial integrado en todas sus indicaciones y correcciones, conocimiento que puede realimentarse en futuras versiones de un modelo que no poseen.

¿Entonces Inkling es realmente bueno?

Thinking Machines dice claramente que Inkling no es el modelo de IA más potente disponible hoy en día, sea cerrado o abierto. Lo que apunta en cambio es un rendimiento constante y equilibrado a menor costo. La empresa dice que Inkling utiliza un tercio de los pasos de procesamiento de un modelo competidor de Nvidia para alcanzar la misma puntuación en pruebas de codificación. También puede señalar cuándo es incierto en lugar de adivinar, y los usuarios pueden ajustar su esfuerzo de reflexión hacia arriba o hacia abajo dependiendo de si quieren una respuesta cuidadosa o una rápida.

Inkling es enorme internamente. Fue entrenado en 45 billones de tokens, que son los fragmentos de texto, imagen, audio y datos de video de los que aprenden los sistemas de IA. Pero debido a su arquitectura (un diseño de mezcla de expertos, donde solo una parte del modelo se activa para cada tarea), sigue siendo práctico de ejecutar.

Thinking Machines ha sido cuidadoso sobre una cosa: Inkling fue entrenado parcialmente utilizando salidas de otros modelos de IA de código abierto, una práctica común llamada destilación. La empresa dice que su próximo modelo dejará ese enfoque completamente.

¿De dónde obtiene dinero Thinking Machines? No de la descarga del modelo. Los ingresos provienen de Tinker, su plataforma de pago para ayudar a las empresas a ajustar y alojar sus propias versiones personalizadas de Inkling.

Esa es la conclusión honesta aquí. Si tu organización tiene experiencia real y específica guardada en la cabeza de tu personal y en tu trabajo anterior, un modelo de IA personalizado entrenado con ese conocimiento puede superar a uno general a una fracción del costo. El camino hacia eso ahora es un poco más corto.