O CEO da Microsoft averte que as empresas pagam pela IA duas vezes: em dinheiro e em segredos

Pontos principais

• O CEO da Microsoft Satya Nadella publicou um artigo de blogue segunda-feira a avisar que as empresas entregam inadvertidamente conhecimento empresarial proprietário cada vez que utilizam um modelo de IA de terceiros.
• Nadella argumenta que os pedidos, correções e fluxos de trabalho que as empresas alimentam nos sistemas de IA se tornam dados de treino que tornam o modelo mais inteligente, potencialmente às custas do cliente.
• Os modelos abertos em funcionamento nos servidores próprios de uma empresa representaram 29% de todo o tráfego através do serviço de encaminhamento de IA da Vercel no mês passado, sugerindo uma mudança real já em curso.
• Em fevereiro de 2025, a Anthropic acusou programadores de IA open-source chineses de enviar milhões de pedidos de teste para o seu modelo Claude para copiar o seu comportamento em alternativas mais baratas.

Satya Nadella dirige a Microsoft, a empresa que investiu milhares de milhões de dólares na OpenAI e também tem uma participação na Anthropic. Portanto, quando ele diz às empresas para terem cuidado em confiar nos próprios laboratórios de IA que apoiou, as pessoas prestam atenção.

Num artigo de blogue publicado segunda-feira, Nadella apresentou uma preocupação que tem estado a circular silenciosamente nas salas de reuniões há algum tempo. As empresas pagam pelas ferramentas de IA em dinheiro, diz. Também pagam em algo que raramente notam: o conhecimento específico e duramente conquistado de como o seu negócio realmente funciona.

Cada vez que um colaborador escreve um pedido numa ferramenta de IA, cada vez que corrige uma resposta que vem errada, o modelo aprende algo. Aprende a sua terminologia, os seus casos limite, os seus padrões. Nadella chama a este conhecimento o "exaurimento" do uso de IA. É também, argumenta, uma das informações mais valiosas que uma empresa possui.

"Cada correção é destilada em conhecimento institucional", escreve. "O tipo de conhecimento que um concorrente nunca poderia comprar."

A sua preocupação é que os termos que os fornecedores de IA anexam aos seus serviços frequentemente lhes permitem aprender com esse exaurimento. Uma empresa que alimenta os seus processos internos num modelo de IA poderia, efetivamente, estar a treinar um futuro concorrente.

Devem as empresas estar preocupadas com isto?

Sim, mas o risco é prático, não teórico. Os fornecedores de IA diferem no que os seus termos permitem. Alguns prometem contratualmente não treinar com os seus dados; outros reservam o direito de o fazer a menos que você opte por não participar. A maioria das empresas nunca leu essas cláusulas.

Nadella também levanta um ponto separado sobre justiça. Os laboratórios de IA argumentam que têm um direito legal de treinar os seus modelos com dados disponíveis publicamente na internet. Ele acha inconsistente que os mesmos laboratórios então escrevam termos proibindo os seus clientes de fazer algo semelhante, uma prática chamada "destilação", que significa usar os próprios resultados de um modelo para treinar um modelo mais pequeno e mais barato. A Anthropic fez manchetes em fevereiro ao acusar programadores de IA chineses de fazer exatamente isso ao seu modelo Claude, e a pedir controlos governamentais mais apertados.

A sua correção proposta é previsível para o CEO de uma empresa de computação em nuvem. Quer que as empresas mantenham propriedade dos seus pedidos e feedback, construam os seus sistemas para que possam trocar facilmente entre fornecedores de IA, e executem cargas de trabalho sensíveis em infraestrutura privada. Convenientemente, infraestrutura privada frequentemente significa Microsoft Azure, a plataforma de nuvem da Microsoft.

Mas o mercado mais amplo já está a mover-se nesta direção independentemente. Idit Levine, CEO da empresa de software empresarial Solo.io, disse à TechCrunch que vê clientes a mudar de modelos proprietários grandes para modelos open-source, sistemas de IA cujo código subjacente é publicamente disponível, instalados em servidores que a empresa controla fisicamente. Os modelos abertos agora lidam com 29% do tráfego através das ferramentas de encaminhamento de IA da Vercel.

O que devem os colaboradores comuns extrair disto? Pergunte à sua equipa de TI se a sua empresa reviu os termos de dados de cada ferramenta de IA que a equipa utiliza. A resposta provavelmente surpreenderá alguém.

Atente em: Acordos de serviço de IA que incluem frases como "podemos usar os seus dados para melhorar os nossos serviços" sem uma opção clara de exclusão. Essa cláusula, escondida na letra pequena, é o mecanismo que Nadella está a avisar.