Gli agenti AI ricevono responsabilità che le aziende non riescono a verificare

Punti principali

• In un sondaggio di giugno 2026 su 157 team aziendali, il 50% ha segnalato il rilascio di un agente AI o di una funzione AI che ha superato i test interni e poi ha causato un guasto visibile ai clienti.
• Una su quattro di queste aziende ha subito quel tipo di guasto più di una volta.
• Il 66% delle imprese intervistate consente già il rilascio di alcuni AI senza revisione umana, o prevede di farlo entro 12 mesi.
• Solo il 5% dei rispondenti ha dichiarato di fidarsi completamente dei sistemi di test automatizzati che decidono se un AI è pronto per il rilascio.
• Le aziende più grandi con 2.500 o più dipendenti si stanno muovendo più velocemente verso il controllo zero umano, e stanno anche segnalando più guasti ai clienti rispetto alle aziende più piccole.

Immagina un ispettore di qualità che ammette, sottovoce, che la lista di controllo è per lo più sbagliata. Questa è grosso modo la situazione che un sondaggio pubblicato da VentureBeat descrive in un'ampia parte dei team aziendali di AI in questo momento.

Il sondaggio VB Pulse di giugno 2026 ha chiesto a 157 persone di aziende con 100 o più dipendenti come testano e rilasciano agenti AI, programmi software che possono eseguire attività multi-step in modo autonomo, come gestire un rimborso al cliente, aggiornare un record di database o redigere e inviare un messaggio senza che un umano prema invio. Il campione era auto-selezionato piuttosto che scelto casualmente, quindi i numeri dovrebbero essere trattati come un segnale, non come un censimento.

Il segnale è scomodo. Metà delle aziende intervistate aveva già rilasciato un agente che aveva superato ogni test interno e comunque aveva danneggiato l'esperienza del cliente. Un quarto lo aveva fatto più di una volta.

Perché un test positivo non garantisce un agente funzionante?

Perché i test tradizionali del software verificano se un input fisso produce un output previsto, e gli agenti AI non funzionano in questo modo. Un agente sceglie la propria sequenza di passaggi, chiama strumenti esterni, estrae dati dal vivo e può comportarsi diversamente ogni volta che viene eseguito, anche sulla stessa attività.

Un agente può eseguire cinque passaggi perfettamente e poi divulgare informazioni sensibili al sesto. Può redigere un rimborso valido e inviarlo senza aspettare l'approvazione. Ogni singola decisione sembra corretta. Il risultato finale è un problema.

L'Istituto nazionale statunitense di standard e tecnologia ha fatto un'osservazione simile nella sua guida AI generativo: il comportamento misurato in un ambiente di test controllato spesso non regge una volta che entrano in gioco utenti reali, prompt imprevedibili e dati dal vivo. La guida chiede test sul campo e monitoraggio continuo dopo il lancio, non solo un punteggio pre-rilascio.

Gli stessi rispondenti del sondaggio sembrano capire questo. Quando è stato chiesto loro perché diffidano dei test automatizzati, la risposta più comune, data dal 29%, è stata che i punteggi dei test non si allineano con ciò che accade realmente nel mondo reale.

Eppure l'autonomia continua ad espandersi. Due terzi delle aziende intervistate sono già in esecuzione, o stanno attivamente costruendo verso, distribuzioni senza alcun umano nel ciclo. Solo il 5% si fida completamente dei controlli automatizzati che farebbero il lavoro che una volta faceva un revisore umano.

Questo divario, l'autonomia crescente poggiata su basi di assicurazione precarie, è il problema fondamentale.

La guida di Anthropic sulla valutazione degli agenti traccia una linea utile qui: un sistema che ha successo una volta non è la stessa cosa di un sistema che ha successo in modo affidabile. Per qualsiasi cosa che tocchi clienti, denaro o dati, l'affidabilità è l'unico standard che conta.

Cosa dovrebbero fare effettivamente le aziende? Eseguire ogni scenario più volte. Variare la formulazione e il contesto. Simulare guasti dello strumento. Quando si verifica un incidente reale in produzione, trasformarlo in un caso di test permanente in modo che lo stesso guasto non possa ricorrere silenziosamente. E ampliare il controllo zero umano solo dove le conseguenze di un errore sono genuinamente basse. Redigere un riassunto interno non è la stessa cosa di approvare una transazione finanziaria.

Togliere un umano da un processo non rimuove il rischio. Toglie solo la persona che potrebbe averlo colto.