Empresas Implementaram Agentes de IA Sem Proteções de Segurança. Agora Estão a Pagar para Corrigir.

Pontos-chave

• 86% das empresas a executar os seus próprios chips de IA relatam que esses chips funcionam a 50% de capacidade ou menos, com base num inquérito de junho de 2025 a 573 líderes técnicos.
• 54% das empresas sofreram um incidente de segurança de agente de IA ou um quase-incidente nos últimos 12 meses.
• 71% das empresas dizem que um quarto ou menos dos seus "agentes" implementados conseguem realmente concluir uma tarefa com múltiplos passos sem um humano a conduzir cada passo.
• 34% já permitem que agentes de IA façam alterações directamente para sistemas em produção sem revisão humana, e mais 33% estão a engenharia para o mesmo funcionamento.
• 69% das empresas permitem que múltiplos agentes partilhem uma única credencial de acesso, e essas empresas sofreram incidentes de segurança a uma taxa quase duas vezes superior à das empresas que não o fazem.

As empresas sabiam que os seus controlos de segurança de IA não estavam prontos. Implementaram mesmo assim.

Esta é a conclusão principal de um inquérito da VentureBeat Research a 573 líderes técnicos em empresas com 100 ou mais colaboradores, publicado este mês. Os resultados pintam um quadro de organizações que correram para implementar agentes de IA (software que consegue executar tarefas com múltiplos passos por si próprio, em vez de apenas responder a uma única pergunta) e que agora estão desesperadamente a tentar adicionar as proteções que ignoraram.

A fatura já está a chegar. Cinquenta e quatro por cento das empresas tiveram um incidente de segurança de IA, ou um quase-incidente detectado antes de danos reais, nos últimos 12 meses.

O que significa isto para trabalhadores e clientes comuns?

Significa que a IA que toma decisões nas empresas para as quais trabalha ou que compra pode estar a funcionar com menos verificações do que a maioria das pessoas assume. Metade das empresas inquiridas implementou um agente de IA que passou nos seus próprios testes internos, e depois causou uma falha visível ao cliente no mundo real. Um quarto assistiu a isso acontecer mais de uma vez.

A história do hardware é igualmente notável. Oitenta e seis por cento das empresas a executar as suas próprias GPUs (os chips especializados que fazem o intenso cálculo numérico que a IA necessita) dizem que esses chips funcionam a 50% de capacidade ou menos. As empresas investiram pesadamente para construir infraestrutura de IA, e a maioria dela fica subutilizada. Ainda assim, 45% dessas mesmas empresas planeiam avaliar um fornecedor especializado de nuvem de IA nos próximos 12 meses, e aproximadamente um em cada três está a considerar activamente chips que não são fabricados pela Nvidia.

A própria designação de "agente" acaba por ser em grande parte marketing. Setenta e um por cento das empresas dizem que um quarto ou menos dos seus chamados agentes conseguem completar uma tarefa com múltiplos passos sem um humano a guiar cada passo. A maioria são chatbots de uma única pergunta com uma etiqueta de "agente". Analistas da Gartner têm uma palavra para isto: "agentwashing".

A segurança é o risco mais agudo a curto prazo. Sessenta e nove por cento das empresas permitem que múltiplos agentes partilhem uma única credencial de acesso durante a operação. Organizações que fizeram isto sofreram incidentes de segurança a uma taxa de 63,5%, comparado com 40,9% em empresas onde cada agente tem a sua própria identidade separada com acesso limitado.

Respostas incorrectas são também uma responsabilidade crescente. Cinquenta e sete por cento das empresas rastrearam uma resposta de agente confiante e incorrecta até aos seus próprios dados comerciais em falta ou desatualizados, como uma definição antiga ou um documento ausente.

A conclusão honesta aqui é simples: meça o que tem antes de comprar mais. Verifique a utilização actual dos seus chips. Atribua a cada agente o seu próprio acesso. E antes de remover um humano de qualquer passo de aprovação, teste se as suas verificações automatizadas realmente captam falhas do mundo real, não apenas as que estão na sua suite de testes interna.