Agentes de IA estão a ser confiados com mais decisões do que as empresas conseguem realmente verificar

Pontos-chave

• Num inquérito de junho de 2026 a 157 equipas empresariais, 50% reportaram ter disponibilizado um agente de IA ou funcionalidade de IA que passou em testes internos e depois causou uma falha visível ao cliente.
• Um em cada quatro dessas empresas experimentou esse tipo de falha mais de uma vez.
• 66% das empresas inquiridas já permitem alguma disponibilização de IA sem revisão humana, ou planeiam fazê-lo nos próximos 12 meses.
• Apenas 5% dos respondentes disseram confiar completamente nos sistemas de testes automatizados que decidem se uma IA está pronta para ser disponibilizada.
• As empresas maiores com 2.500 ou mais funcionários estão a avançar mais rapidamente para zero supervisão humana, e também reportam mais falhas de clientes do que as empresas mais pequenas.

Imagine um inspetor de qualidade que admite, discretamente, que a lista de verificação está maioritariamente errada. É essencialmente a situação que um inquérito publicado pela VentureBeat descreve em muitas equipas corporativas de IA neste momento.

O inquérito VB Pulse de junho de 2026 questionou 157 pessoas em empresas com 100 ou mais funcionários sobre como testam e disponibilizam agentes de IA, programas de software que conseguem executar tarefas multi-passo por si próprios, como gerir um reembolso a um cliente, atualizar um registo de base de dados, ou redigir e enviar uma mensagem sem um humano carregar em enviar. A amostra foi auto-selecionada em vez de escolhida aleatoriamente, portanto os números devem ser tratados como um sinal, não como um censo.

O sinal é incómodo. Metade das empresas inquiridas tinha já disponibilizado um agente que passou em todos os testes internos e ainda assim prejudicou a experiência do cliente. Um quarto tinha feito-o mais de uma vez.

Porque é que um teste bem-sucedido não garante um agente funcional?

Porque os testes tradicionais de software verificam se uma entrada fixa produz uma saída esperada, e os agentes de IA não funcionam assim. Um agente escolhe a sua própria sequência de passos, acessa ferramentas externas, obtém dados em tempo real, e pode comportar-se de forma diferente sempre que é executado, mesmo na mesma tarefa.

Um agente pode executar cinco passos exatamente bem e depois vazar informações sensíveis no sexto. Pode redigir um reembolso válido e enviá-lo sem aguardar aprovação. Cada decisão individual parece correcta. O resultado final é um problema.

O Instituto Nacional de Normas e Tecnologia dos EUA fez uma observação semelhante na sua orientação do Perfil de IA Generativa: o comportamento medido num ambiente de teste controlado muitas vezes não se mantém quando utilizadores reais, prompts imprevisíveis e dados em tempo real entram em jogo. A orientação recomenda testes de campo e monitorização contínua após o lançamento, não apenas uma pontuação pré-lançamento.

Os respondentes do inquérito parecem compreender isto. Quando questionados sobre porque é que desconfiam dos testes automatizados, a resposta mais comum, dada por 29%, foi que as pontuações dos testes não se alinham com o que realmente acontece no mundo real.

E no entanto a autonomia continua a expandir-se. Dois terços das empresas inquiridas estão já a executar, ou ativamente a construir, disponibilizações sem nenhum humano no circuito. Apenas 5% confiam completamente nas verificações automatizadas que fariam o trabalho que um revisor humano costumava fazer.

Esta lacuna, com autonomia crescente assente em garantias frágeis, é o problema central.

A orientação da Anthropic sobre avaliação de agentes traça uma linha útil aqui: um sistema que tem sucesso uma vez não é o mesmo que um sistema que tem sucesso de forma fiável. Para qualquer coisa que toque clientes, dinheiro ou dados, a fiabilidade é a única medida que importa.

O que deveriam as empresas realmente fazer? Executar todos os cenários múltiplas vezes. Variar a redação e o contexto. Simular falhas de ferramentas. Quando um incidente real acontece em produção, transformá-lo numa caso de teste permanente para que a mesma falha não possa voltar a ocorrer silenciosamente. E expandir zero supervisão humana apenas onde as consequências de um erro são genuinamente baixas; redigir um resumo interno não é o mesmo que aprovar uma transação financeira.

Remover um humano de um processo não remove o risco. Remove apenas a pessoa que poderia tê-lo detectado.