O que são alucinações de IA e por que acontecem?

As alucinações de IA ocorrem quando um modelo de linguagem grande (um sistema de IA treinado com enormes quantidades de dados escritos) afirma algo falso com total confiança. Acontecem porque estes modelos foram construídos para prever palavras que soam plausíveis, não para verificar factos. Pense nisto como um adivinhador muito fluente que por vezes adivinha mal sem se aperceber disso.

Por que é que uma IA inventa coisas?

O modelo não está a mentir. Não tem nenhuma intenção. O que faz é calcular qual a palavra com maior probabilidade de seguir a anterior, baseando-se em padrões que absorveu durante o treino. Quando a resposta correta fica fora desses padrões, o modelo ainda gera algo que soa bem, porque soar bem é literalmente aquilo para o qual foi treinado.

Esta tendência é por vezes chamada de "confabulação" (uma palavra tomada de empréstimo à neurociência, significando preencher lacunas na memória com detalhes plausíveis mas inventados). Os investigadores da Anthropic descrevem o problema central como modelos otimizados para aprovação humana em vez de precisão factual, o que pode levar a respostas confiantes mesmo quando o modelo tem incerteza.

Como é que uma alucinação se parece realmente?

Uma alucinação nem sempre é uma mentira óbvia. Por vezes é uma pessoa real com um cargo fictício. Por vezes é um caso judicial real com uma citação fabricada. Por vezes é um medicamento real com uma dosagem inventada. O fio condutor: tudo à volta do erro é plausível, o que é exatamente o que a torna perigosa.

Um exemplo do mundo real: um advogado de Nova Iorque apresentou uma petição judicial que citava vários casos gerados pelo ChatGPT. Os casos não existiam, mas as citações pareciam completamente reais. O advogado não as tinha verificado numa base de dados jurídica real.

Por que é que alguns sistemas de IA têm mais alucinações do que outros?

Vários fatores aumentam ou diminuem a taxa. Conjuntos de dados de treino maiores ajudam, mas não são uma cura. O ajuste fino (treino adicional em material especializado) reduz erros num domínio específico. A geração aumentada por recuperação, geralmente chamada RAG, é uma técnica em que a IA recebe um conjunto recente de documentos a citar antes de responder, em vez de depender puramente da memória, e reduz substancialmente as alucinações em tarefas factuais. O trabalho técnico da OpenAI sobre o GPT-4 nota que técnicas de treino como aprendizagem por reforço a partir de feedback humano reduzem mas não eliminam as respostas falsas.

Fator	Efeito na taxa de alucinação
Dados de treino maiores e mais limpos	Reduz moderadamente
RAG (recuperação de documentos em tempo real)	Reduz substancialmente em factos
Aprendizagem por reforço a partir de feedback humano	Reduz, não remove
Pedir factos raros ou muito específicos	Aumenta
Pedir ao modelo para citar fontes que não lhe foram fornecidas	Aumenta significativamente

É que a IA consegue perceber quando está a alucinar?

Na maioria das vezes, não. O modelo produz uma pontuação de confiança internamente, mas investigação do NIST mostra que os sistemas de IA muitas vezes têm má calibração, o que significa que podem relatar alta confiança enquanto estão errados. Alguns sistemas mais novos adicionam um passo de verificação separado, mas isto não é universal e não deteta todos os erros.

Como me protejo das alucinações de IA?

Verifique tudo o que seja importante. Essa é a resposta breve. Trate o resultado da IA como trataria uma afirmação espontânea de um amigo inteligente: útil como ponto de partida, não como fonte final.

Quatro hábitos práticos ajudam. Em primeiro lugar, peça à IA para mostrar o seu raciocínio passo a passo. Os erros são mais fáceis de detetar quando a lógica é visível. Em segundo lugar, verifique reclamações específicas contra uma fonte primária, não outra IA. Em terceiro lugar, seja mais cauteloso ao questionar sobre tópicos de nicho, eventos recentes, ou qualquer coisa que exija números precisos. Em quarto lugar, prefira ferramentas que citam os documentos reais de que extraíram informações, para poder ler o original.

É que a UE ou algum governo regulamenta as alucinações de IA?

A Lei de IA da UE, que entrou em vigor em 2024, classifica os sistemas de IA utilizados em áreas de alto risco (medicina, direito, contratação) sob regras rigorosas de precisão e transparência. Os fornecedores devem documentar limitações, o que inclui riscos de alucinação. Isto não proíbe as alucinações; exige que as empresas sejam transparentes sobre elas.

Qual é o custo de usar ferramentas de IA que lidam melhor com isto?

A maioria dos assistentes de IA principais oferecem um nível gratuito adequado para uso casual. O GPT-4o é gratuito no ChatGPT com limites diários. O Claude tem um nível gratuito em claude.ai. Ambos cobram aproximadamente 20 dólares americanos por mês para utilização mais alta e acesso a funcionalidades como carregamento de documentos, que permite a abordagem RAG mencionada acima. Pagar mais reduz a frequência de alucinação em tarefas complexas, mas não torna os erros impossíveis.

Aviso de privacidade: quando colar um documento num chatbot para o verificar, esse documento pode ser utilizado para melhorar o modelo a menos que opte pela exclusão. Consulte as definições de dados antes de carregar qualquer coisa sensível, especialmente registos médicos ou ficheiros de trabalho confidenciais.

Perguntas frequentes

As alucinações de IA estão a melhorar ao longo do tempo?

Sim, de forma mensurável, mas não foram resolvidas. Gerações sucessivas de modelos de laboratórios principais mostram taxas de erro mais baixas em benchmarks padrão, mas mesmo os melhores modelos atuais ainda produzem informações falsas em consultas complexas ou de nicho.

Existe um tipo de pergunta que sempre produz alucinações?

Pedir a uma IA para fornecer citações específicas, referências de casos judiciais, ou estatísticas precisas que não lhe foram fornecidas na conversa é a forma mais fiável de provocar uma. O modelo muitas vezes inventará uma resposta que parece plausível em vez de admitir que não sabe.

É que os geradores de imagens de IA também alucinam?

Num sentido mais lato, sim. Os modelos de imagem podem gerar detalhes anatomicamente incorretos, como dedos extras ou objetos fundidos, porque funcionam segundo princípios semelhantes de reconhecimento de padrões, montando elementos visuais que parecem estatisticamente plausíveis em vez de verificá-los contra a realidade.