Cosa sono le allucinazioni dell'IA e perché accadono?

Le allucinazioni dell'IA si verificano quando un modello linguistico di grandi dimensioni (un sistema di testo IA addestrato su enormi quantità di dati scritti) afferma qualcosa di falso con assoluta sicurezza. Accadono perché questi modelli sono costruiti per prevedere parole plausibili, non per verificare i fatti. Pensalo come un indovino molto fluente che a volte sbaglia senza rendersene conto.

Perché un'IA inventa cose?

Il modello non mente. Non ha alcuna intenzione. Quello che fa è calcolare quale parola è più probabile che segua l'ultima, in base ai modelli assorbiti durante l'addestramento. Quando la risposta corretta esce da questi modelli, il modello genera comunque qualcosa che suona giusto, perché suonare giusto è letteralmente quello per cui è stato addestrato.

Questa tendenza è talvolta chiamata "confabulazione" (una parola presa in prestito dalle neuroscienze, che significa colmare i vuoti della memoria con dettagli plausibili ma inventati). I ricercatori di Anthropic descrivono il problema centrale come modelli ottimizzati per l'approvazione umana piuttosto che per l'accuratezza fattuale, il che può spingere gli output verso risposte che suonano sicure anche quando il modello è incerto.

Come appare effettivamente un'allucinazione?

Un'allucinazione non è sempre un errore ovvio. A volte è una persona reale con un titolo di lavoro falso. A volte è un caso giudiziario reale con una citazione fabbricata. A volte è un farmaco reale con un dosaggio inventato. Il filo conduttore: tutto intorno all'errore è plausibile, il che è esattamente quello che lo rende pericoloso.

Un esempio della vita reale: un avvocato di New York ha presentato un memoriale in tribunale che citava diversi casi generati da ChatGPT. I casi non esistevano, ma le citazioni sembravano completamente reali. L'avvocato non le aveva verificate rispetto a un database legale effettivo.

Perché alcuni sistemi di IA allucinano più di altri?

Diversi fattori spingono il tasso su o giù. Set di dati di addestramento più grandi aiutano, ma non sono una cura. L'ottimizzazione (addestramento aggiuntivo su materiale specializzato) riduce gli errori in un dominio specifico. La generazione aumentata da recupero, solitamente chiamata RAG, è una tecnica in cui all'IA viene fornito un nuovo insieme di documenti da cui citare prima di rispondere, piuttosto che fare affidamento puramente sulla memoria, e riduce sostanzialmente le allucinazioni nei compiti fattuali. Il lavoro tecnico di OpenAI su GPT-4 rileva che tecniche di addestramento come l'apprendimento per rinforzo dal feedback umano riducono ma non eliminano gli output falsi.

Fattore	Effetto sul tasso di allucinazione
Dati di addestramento più grandi e puliti	Lo riduce moderatamente
RAG (recupero di documenti live)	Lo riduce sostanzialmente per i fatti
Apprendimento per rinforzo dal feedback umano	Lo riduce, non lo elimina
Chiedere fatti rari o molto specifici	Lo aumenta
Chiedere al modello di citare fonti che non gli sono state fornite	Lo aumenta notevolmente

L'IA può sapere quando sta allucinando?

Principalmente no. Il modello produce internamente un punteggio di confidenza, ma la ricerca del NIST mostra che i sistemi di IA sono spesso male calibrati, il che significa che possono segnalare un'elevata fiducia mentre sono sbagliati. Alcuni sistemi più recenti aggiungono un passaggio di controllo separato, ma questo non è universale e non cattura ogni errore.

Come mi proteggo dalle allucinazioni dell'IA?

Verifica qualsiasi cosa consequenziale. Questa è la risposta breve. Tratta l'output dell'IA come tratteresti l'affermazione improvvisata di un amico intelligente: utile come punto di partenza, non come fonte finale.

Quattro abitudini pratiche aiutano. Primo, chiedi all'IA di mostrare il suo ragionamento passo dopo passo. Gli errori sono più facili da individuare quando la logica è visibile. Secondo, verifica incrocio le affermazioni specifiche rispetto a una fonte primaria, non a un'altra IA. Terzo, sii più cauto quando fai domande su argomenti di nicchia, eventi recenti o qualsiasi cosa che richieda numeri precisi. Quarto, preferisci strumenti che citano i documenti effettivi da cui hanno attinto, così puoi leggere l'originale.

L'UE o qualche governo regola le allucinazioni dell'IA?

L'AI Act dell'UE, che è entrato in vigore nel 2024, classifica i sistemi di IA utilizzati in aree ad alto rischio (medicina, diritto, assunzioni) secondo rigide regole di accuratezza e trasparenza. I fornitori devono documentare le limitazioni, che includono i rischi di allucinazione. Questo non vieta le allucinazioni; richiede alle aziende di essere trasparenti al riguardo.

Quanto costa utilizzare strumenti di IA che gestiscono meglio questo aspetto?

La maggior parte dei principali assistenti di IA offre un livello gratuito che è sufficientemente buono per l'uso occasionale. GPT-4o è gratuito su ChatGPT con limiti giornalieri. Claude ha un livello gratuito su claude.ai. Entrambi addebitano circa 20 dollari USA al mese per un utilizzo più elevato e l'accesso a funzioni come il caricamento di documenti, che abilita l'approccio RAG menzionato sopra. Pagare di più riduce la frequenza di allucinazione nei compiti complessi, ma non rende gli errori impossibili.

Avvertenza sulla privacy: quando incolla un documento in una chatbot per verificarlo, quel documento potrebbe essere utilizzato per migliorare il modello a meno che tu non rinunci. Controlla le impostazioni dei dati prima di caricare qualsiasi cosa sensibile, specialmente le cartelle cliniche o i file di lavoro riservati.

Domande comuni

Le allucinazioni dell'IA stanno migliorando nel tempo?

Sì, misurabilmente, ma non sono state risolte. Le generazioni successive di modelli dai principali laboratori mostrano tassi di errore inferiori sui benchmark standard, ma anche gli attuali migliori modelli producono ancora informazioni false su query complesse o di nicchia.

C'è un tipo di domanda che produce sempre allucinazioni?

Chiedere a un'IA di fornire citazioni specifiche, riferimenti a casi legali o statistiche precise che non le sono state fornite nella conversazione è il modo più affidabile per attivarne una. Il modello spesso inventerà una risposta che sembra plausibile piuttosto che ammettere che non lo sa.

Anche i generatori di immagini IA allucinano?

In un senso più ampio, sì. I modelli di immagini possono generare dettagli anatomicamente scorretti come dita in più o oggetti fusi perché funzionano su principi di abbinamento di modelli simili, assemblando elementi visivi che sembrano statisticamente plausibili piuttosto che verificarli rispetto alla realtà.