Plano de redução de custos com IA do Lloyds Bank tem uma conta oculta: quem paga quando a máquina falha?

Pontos-chave

• O Lloyds Bank anunciou um plano de redução de custos de £2 mil milhões a 30 de julho assente na automatização baseada em IA.
• O Dr Gleb Tsipursky, escrevendo no The Guardian AI, argumenta que os números de produtividade do banco contam apenas o tempo economizado para o trabalhador que utiliza a ferramenta de IA.
• Os custos ocultos incluem colegas a verificar factos inventados, a corrigir mensagens de clientes, a explicar aplicações de empréstimo rejeitadas e a escalar erros.
• Uma única equipa pode parecer mais produtiva no papel enquanto a carga de trabalho real se desloca, silenciosamente, para outras partes do banco.
• Nenhuma discriminação pública destes custos a jusante foi publicada.

O Lloyds Bank chamou a atenção no final de julho ao desvelar um plano para cortar £2 mil milhões em custos, com a inteligência artificial, a tecnologia que alimenta ferramentas como chatbots e processamento automatizado de documentos, a fazer muito do trabalho pesado. Os números pareciam claros. O plano não era.

O Dr Gleb Tsipursky, especialista em tomada de decisão e risco de IA, coloca uma questão a que os números das manchetes não respondem: quando a IA erra, o tempo de quem é que o paga?

Como é que esse custo oculto é realmente?

Parece um colega a reler uma carta de cliente que a IA redigiu e a apanhar uma taxa de juro inventada. Parece um trabalhador de balcão a ligar a um cliente para explicar por que razão a sua candidatura hipotecária foi rejeitada com base num erro do sistema. Parece uma fila de escalação que não existia antes.

As ferramentas de IA que geram texto, resumem documentos ou processam candidaturas podem produzir o que os investigadores chamam alucinações, significando respostas que soam com confiança mas que são factualmente incorretas. Apanhar esses erros leva tempo humano. Esse tempo pertence a alguém.

O problema, argumenta Tsipursky, é contabilidade simples. Os bancos medem os minutos economizados pelo funcionário que utiliza directamente a IA. Não medem os minutos gastos a jusante por todos a limpar depois dela. Uma equipa regista um ganho de produtividade. O risco e o esforço deslocam-se lateralmente.

Devem os clientes de bancos estar preocupados?

Não de forma dramática, mas há coisas que merecem atenção. Se a IA de um banco redigir uma carta sobre a sua conta, leia-a cuidadosamente antes de agir sobre qualquer figura ou prazo que contenha. Se uma candidatura é rejeitada e a razão parece errada ou vaga, peça uma explicação humana por escrito.

A preocupação prática não é que a IA cause uma crise financeira. É que os erros se difundam por muitas pequenas interacções, cada uma aborrecedora ou custosa para o cliente envolvido, enquanto as métricas internas do banco mostram apenas as economias.

O Lloyds não publicou uma discriminação de como irá rastrear e reportar o custo humano a jusante do seu programa de IA. Até que o faça, a figura de £2 mil milhões conta apenas metade da história.

O que é que os leitores devem observar?

Se é cliente do Lloyds ou funcionário de qualquer banco a implementar ferramentas de IA, quatro coisas merecem a sua atenção: cartas ou mensagens que citam números específicos (taxas, saldos, prazos) sem um autor humano identificado; avisos de rejeição que não oferecem uma rota clara para recurso; tarefas que costumavam levar uma pessoa e que agora parecem exigir duas; e qualquer processo em que o resultado da IA chegue a si sem um passo de revisão humana entre a máquina e o seu dinheiro.