Il startup di IA di Mira Murati ha appena lanciato il suo primo modello. Vuole che le aziende posseggano la loro IA, non la noleggino.

Punti chiave

• Thinking Machines Lab ha rilasciato Inkling mercoledì, il suo primo modello di IA disponibile pubblicamente, circa nove mesi dopo l'inizio dello sviluppo dell'azienda.
• Inkling ha 975 miliardi di parametri totali (una misura della complessità del modello) ma ne utilizza solo circa 41 miliardi per un singolo compito, mantenendolo più veloce ed economico da eseguire di quanto suggerisca la sua dimensione.
• Il modello è open-weight, il che significa che qualsiasi azienda o sviluppatore può scaricarlo e modificarlo gratuitamente, a differenza di ChatGPT o Claude.
• Uno studio congiunto pubblicato a fine giugno ha rilevato che un modello personalizzato costruito utilizzando metodi open-weight simili ha ottenuto l'84,7% nei test di ragionamento finanziario a circa un quattordicesimo del costo di esecuzione dei principali modelli di IA proprietari.
• Thinking Machines prevede di guadagnare attraverso Tinker, la sua piattaforma a pagamento per l'addestramento e l'adattamento del modello, non dal modello stesso.

Mira Murati ha trascorso anni come direttore della tecnologia presso OpenAI. Ora sta scommettendo contro ciò che OpenAI vende.

Thinking Machines Lab, lo startup fondato da Murati dopo aver lasciato OpenAI, ha rilasciato il suo primo modello di IA mercoledì. Si chiama Inkling e funziona diversamente dai principali prodotti di IA che la maggior parte delle persone conosce.

ChatGPT, Claude e Google Gemini sono tutti sistemi chiusi. Paghi per usarli. L'azienda che li ha costruiti mantiene il controllo completo. Inkling è open-weight, il che significa che qualsiasi azienda o sviluppatore può scaricare il modello completo e adattarlo alle proprie esigenze, senza costi da parte di Thinking Machines.

Questa è tutta la proposta. L'azienda ritiene che un'IA che un'azienda addestra sui propri dati e competenze supererà un modello generico che un grande laboratorio vende a tutti.

Le prove che supportano questo argomento sono genuinamente interessanti. Bridgewater Associates, il più grande hedge fund del mondo, ha collaborato con i ricercatori per prendere un modello di IA open-source esistente e addestarlo ulteriormente sulla propria conoscenza finanziaria. Quel modello personalizzato ha ottenuto l'84,7% nei test di ragionamento finanziario, superando i principali prodotti di IA proprietari, mentre costava circa un quattordicesimo per l'esecuzione. I risultati provengono da uno studio che le due aziende hanno pubblicato congiuntamente a fine giugno, non da un revisore indipendente, quindi trattate questo con lo scetticismo appropriato.

L'amministratore delegato di Microsoft Satya Nadella ha fatto un punto correlato in un post di blog domenica. Le aziende che utilizzano prodotti di IA chiusi, ha scritto, pagano due volte: una volta in canoni di abbonamento e di nuovo consegnando la conoscenza aziendale incorporata in tutti i loro prompt e correzioni, conoscenza che può alimentare le versioni future di un modello che non possiedono.

Quindi Inkling è veramente buono?

Thinking Machines afferma chiaramente che Inkling non è il modello di IA più forte disponibile oggi, chiuso o aperto. Ciò per cui mira invece è una performance costante e ben bilanciata a costo inferiore. L'azienda afferma che Inkling utilizza un terzo dei passaggi di elaborazione rispetto a un modello concorrente di Nvidia per raggiungere lo stesso punteggio nei test di codifica. Può anche segnalare quando è incerto invece di indovinare e gli utenti possono aumentare o diminuire il suo sforzo di riflessione a seconda che vogliano una risposta attenta o rapida.

Inkling è enorme internamente. È stato addestrato su 45 trilioni di token, che sono i frammenti di testo, immagine, audio e dati video da cui i sistemi di IA imparano. Ma grazie alla sua architettura (un design mixture-of-experts, dove solo una parte del modello si attiva per ogni compito) rimane pratico da eseguire.

Thinking Machines è stata attenta su un aspetto: Inkling è stato addestrato in parte utilizzando output da altri modelli di IA open-weight, una pratica comune chiamata distillazione. L'azienda afferma che il suo prossimo modello abbandonerà completamente questo approccio.

Come guadagna Thinking Machines? Non dal download del modello. Le entrate provengono da Tinker, la sua piattaforma a pagamento per aiutare le aziende ad affinare e ospitare le proprie versioni personalizzate di Inkling.

Questo è il verdetto onesto qui. Se la tua organizzazione ha una vera competenza specifica bloccata nella testa del tuo staff e nel tuo lavoro passato, un modello di IA personalizzato addestrato su quella conoscenza potrebbe superarne uno generico a una frazione del costo. Il percorso verso questo è ora un po' più breve.