Il piano di riduzione dei costi con l'IA della Lloyds Bank ha una voce nascosta: chi paga quando la macchina sbaglia?

Punti chiave

• Lloyds Bank ha annunciato un piano di riduzione dei costi di 2 miliardi di sterline il 30 luglio basato sull'automazione guidata dall'IA.
• Il dott. Gleb Tsipursky, scrivendo su The Guardian AI, sostiene che le cifre di produttività della banca contano solo il tempo risparmiato dal lavoratore che utilizza lo strumento di IA.
• I costi nascosti includono colleghi che verificano fatti inventati, correggono messaggi ai clienti, spiegano le domande di prestito rifiutate e gestiscono gli errori escalation.
• Un singolo team può sembrare più produttivo sulla carta mentre il carico di lavoro effettivo si sposta, silenziosamente, in altre parti della banca.
• Non è stata pubblicata alcuna ripartizione pubblica di questi costi a valle.

Lloyds Bank ha fatto notizia alla fine di luglio quando ha svelato un piano per ridurre i costi di 2 miliardi di sterline, con l'intelligenza artificiale, la tecnologia che alimenta strumenti come chatbot e l'elaborazione automatica di documenti, che fa gran parte del lavoro pesante. I numeri sembravano chiari. Il piano non lo era.

Il dott. Gleb Tsipursky, esperto di decision-making e rischi dell'IA, si pone una domanda a cui le cifre dei titoli non rispondono: quando l'IA sbaglia qualcosa, il tempo di chi paga il prezzo?

Che aspetto ha effettivamente questo costo nascosto?

Assomiglia a un collega che rilegge una lettera al cliente redatta dall'IA e scopre un tasso di interesse inventato. Assomiglia a un dipendente di filiale che chiama un cliente per spiegare perché la sua richiesta di mutuo è stata rifiutata a causa di un errore di sistema. Assomiglia a una coda di escalation che prima non c'era.

Gli strumenti di IA che generano testo, riassumono documenti o elaborano applicazioni possono produrre quelle che i ricercatori chiamano allucinazioni, ovvero risposte che suonano sicure ma sono fattualmente sbagliate. Individuare questi errori richiede tempo umano. Quel tempo appartiene a qualcuno.

Il problema, sostiene Tsipursky, è la semplice contabilità. Le banche misurano i minuti risparmiati dal dipendente che utilizza direttamente l'IA. Non misurano i minuti spesi a valle da tutti coloro che puliscono dopo di essa. Un team registra un guadagno di produttività. Il rischio e lo sforzo si spostano lateralmente.

I clienti delle banche dovrebbero preoccuparsi?

Non in modo drammatico, ma ci sono cose che vale la pena tenere d'occhio. Se l'IA di una banca redige una lettera sul tuo conto, leggila attentamente prima di agire su qualsiasi cifra o scadenza che contiene. Se una domanda viene rifiutata e il motivo sembra sbagliato o vago, chiedi una spiegazione umana per iscritto.

La preoccupazione pratica non è che l'IA causerà una crisi finanziaria. È che gli errori si diffondono su molte piccole interazioni, ognuna fastidiosa o costosa per il cliente coinvolto, mentre le metriche interne della banca mostrano solo i risparmi.

Lloyds non ha pubblicato una ripartizione di come traccia e comunica il costo umano a valle del suo programma di IA. Fino a quando non lo farà, la cifra di 2 miliardi di sterline racconta solo metà della storia.

Cosa dovrebbero osservare i lettori?

Se sei un cliente Lloyds o un dipendente di qualsiasi banca che sta implementando strumenti di IA, quattro cose meritano la tua attenzione: lettere o messaggi che citano numeri specifici (tassi, saldi, scadenze) senza un autore umano nominato; avvisi di rifiuto che non offrono una chiara strada per fare ricorso; attività che prima richiedevano una persona e ora sembrano richiederne due; e qualsiasi processo in cui l'output dell'IA va a te senza un passaggio di revisione umana tra la macchina e i tuoi soldi.