O Startup de IA de Mira Murati Lança Seu Primeiro Modelo. Quer que as Empresas Sejam Proprietárias da IA, Não a Alugem.

Pontos-chave

• O Thinking Machines Lab lançou o Inkling na quarta-feira, o seu primeiro modelo de IA disponível publicamente, aproximadamente nove meses após a empresa começar a construí-lo.
• O Inkling tem 975 mil milhões de parâmetros totais (uma medida da complexidade do modelo), mas utiliza apenas cerca de 41 mil milhões para qualquer tarefa individual, mantendo-o mais rápido e mais barato de executar do que o seu tamanho sugere.
• O modelo é de código aberto, o que significa que qualquer empresa ou programador pode descarregá-lo e modificá-lo gratuitamente, ao contrário do ChatGPT ou Claude.
• Um estudo conjunto publicado em finais de junho descobriu que um modelo personalizado construído utilizando métodos de código aberto semelhantes obteve 84,7% em testes de raciocínio financeiro com aproximadamente um catorze avos do custo de execução dos principais modelos de IA proprietários.
• O Thinking Machines planeia ganhar dinheiro através do Tinker, a sua plataforma paga para treinar e adaptar o modelo, não do próprio modelo.

Mira Murati passou anos como diretora de tecnologia na OpenAI. Agora está a apostar contra aquilo que a OpenAI vende.

O Thinking Machines Lab, o startup que Murati fundou após sair da OpenAI, lançou o seu primeiro modelo de IA na quarta-feira. Chama-se Inkling, e funciona de forma diferente dos principais produtos de IA que a maioria das pessoas conhece.

ChatGPT, Claude e Google Gemini são todos sistemas fechados. Paga-se para os usar. A empresa que os construiu mantém total controlo. O Inkling é de código aberto, o que significa que qualquer empresa ou programador pode descarregar o modelo completo e reformulá-lo para se adequar às suas próprias necessidades, sem qualquer custo do Thinking Machines.

Essa é a proposta completa. A empresa acredita que a IA que um negócio treina com os seus próprios dados e conhecimento superará um modelo de uso geral que um grande laboratório vende a todos.

As evidências que apoiam esse argumento são genuinamente interessantes. A Bridgewater Associates, o maior fundo de cobertura do mundo, trabalhou com investigadores para pegar num modelo de IA de código aberto existente e treiná-lo ainda mais com o seu próprio conhecimento financeiro. Esse modelo personalizado obteve 84,7% em testes de raciocínio financeiro, superando os principais produtos de IA proprietários, enquanto custava aproximadamente um catorze avos de quanto custa executar. Os resultados provêm de um estudo que as duas empresas publicaram em conjunto em finais de junho, não de um revisor independente, portanto trate isso com ceticismo apropriado.

O diretor executivo da Microsoft, Satya Nadella, fez um ponto relacionado numa publicação de blogue no domingo. As empresas que utilizam produtos de IA fechados, escreveu ele, pagam duas vezes: uma vez em taxas de subscrição e novamente ao entregar o conhecimento comercial incorporado em todos os seus pedidos e correções, conhecimento que pode alimentar futuras versões de um modelo que não possuem.

Portanto, o Inkling é realmente tão bom?

O Thinking Machines diz claramente que o Inkling não é o modelo de IA mais forte disponível hoje, fechado ou aberto. O que visa em vez disso é um desempenho constante e bem-arredondado a um custo inferior. A empresa diz que o Inkling utiliza um terço dos passos de processamento de um modelo concorrente da Nvidia para atingir a mesma pontuação em testes de codificação. Pode também sinalizar quando está incerto em vez de adivinhar, e os utilizadores podem aumentar ou diminuir o seu esforço de raciocínio dependendo se querem uma resposta cuidadosa ou rápida.

O Inkling é enorme internamente. Foi treinado em 45 triliões de tokens, que são os fragmentos de dados de texto, imagem, áudio e vídeo nos quais os sistemas de IA aprendem. Mas devido à sua arquitetura (um design de mistura de especialistas, onde apenas uma fatia do modelo se ativa para cada tarefa) permanece prático de executar.

O Thinking Machines foi cuidadoso numa coisa: o Inkling foi parcialmente treinado utilizando resultados de outros modelos de IA de código aberto, uma prática comum chamada destilação. A empresa diz que o seu próximo modelo abandonará completamente essa abordagem.

Onde o Thinking Machines ganha dinheiro? Não com o descarregamento do modelo. A receita vem do Tinker, a sua plataforma paga para ajudar as empresas a ajustar finamente e alojar as suas próprias versões personalizadas do Inkling.

Essa é a conclusão honesta aqui. Se a sua organização tem conhecimento real e específico fechado nas cabeças do seu pessoal e no trabalho anterior, um modelo de IA personalizado treinado nesse conhecimento pode superar um genérico por uma fração do custo. O caminho para isso é agora um pouco mais curto.