Plan de réduction des coûts par IA de Lloyds Bank : qui paie quand la machine se trompe ?

Points clés

• Lloyds Bank a annoncé le 30 juillet un plan de réduction des coûts de 2 milliards de livres basé sur l'automatisation alimentée par l'IA.
• Le Dr Gleb Tsipursky, écrivant dans The Guardian AI, soutient que les chiffres de productivité de la banque ne comptent que le temps économisé pour le travailleur utilisant l'outil IA.
• Les coûts cachés incluent des collègues vérifiant des faits inventés, corrigeant des messages aux clients, expliquant les demandes de prêt rejetées et escaladant les erreurs.
• Une équipe unique peut sembler plus productive sur le papier tandis que la charge de travail réelle se déplace, discrètement, vers d'autres parties de la banque.
• Aucune ventilation publique de ces coûts en aval n'a été publiée.

Lloyds Bank a fait la une des journaux fin juillet en dévoilant un plan de réduction de 2 milliards de livres en coûts, l'intelligence artificielle, la technologie qui alimente des outils comme les chatbots et le traitement automatisé des documents, assurant l'essentiel du travail. Les chiffres semblaient clairs. Le plan ne l'était pas.

Le Dr Gleb Tsipursky, expert en prise de décision et en risques liés à l'IA, pose une question à laquelle les chiffres de gros titres ne répondent pas : quand l'IA se trompe, dont le temps en paie le prix ?

À quoi ressemble réellement ce coût caché ?

Cela ressemble à un collègue relisant une lettre client rédigée par l'IA et détectant un taux d'intérêt inventé. Cela ressemble à un agent d'une succursale appelant un client pour expliquer pourquoi sa demande de prêt hypothécaire a été rejetée en raison d'une erreur système. Cela ressemble à une file d'attente d'escalade qui n'existait pas auparavant.

Les outils IA qui génèrent du texte, résument des documents ou traitent des demandes peuvent produire ce que les chercheurs appellent des hallucinations, c'est-à-dire des réponses qui sonnent avec assurance mais sont factuellement fausses. Détecter ces erreurs nécessite du temps humain. Ce temps appartient à quelqu'un.

Le problème, soutient Tsipursky, est une comptabilité simple. Les banques mesurent les minutes économisées par l'employé utilisant directement l'IA. Elles ne mesurent pas les minutes passées en aval par tous ceux qui nettoient après elle. Une équipe affiche un gain de productivité. Le risque et l'effort se déplacent latéralement.

Les clients des banques devraient-ils s'inquiéter ?

Pas de manière dramatique, mais il y a des choses à surveiller. Si l'IA d'une banque rédige une lettre sur votre compte, lisez-la attentivement avant d'agir sur les chiffres ou les délais qu'elle contient. Si une demande est rejetée et que la raison semble fausse ou vague, demandez une explication humaine par écrit.

La préoccupation pratique n'est pas que l'IA causera une crise financière. C'est que les erreurs se dispersent sur de nombreuses petites interactions, chacune étant ennuyeuse ou coûteuse pour le client impliqué, tandis que les métriques internes de la banque ne montrent que les économies.

Lloyds n'a pas publié de ventilation de la façon dont elle suivra et communiquera le coût humain en aval de son programme IA. Jusqu'à ce qu'elle le fasse, le chiffre de 2 milliards de livres ne raconte que la moitié de l'histoire.

Que devraient surveiller les lecteurs ?

Si vous êtes client de Lloyds ou employé dans une banque déployant des outils IA, quatre choses méritent votre attention : les lettres ou messages citant des chiffres spécifiques (taux, soldes, délais) sans auteur humain nommé ; les avis de rejet qui n'offrent aucune voie claire d'appel ; les tâches qui prenaient autrefois une personne et qui semblent désormais en nécessiter deux ; et tout processus où la sortie de l'IA vous parvient sans étape d'examen humain entre la machine et votre argent.