El plan de reducción de costos con IA de Lloyds Bank tiene un cargo oculto: ¿quién paga cuando la máquina se equivoca?

Puntos clave

• Lloyds Bank anunció un plan de reducción de costos de £2 mil millones el 30 de julio basado en automatización impulsada por IA.
• El Dr. Gleb Tsipursky, escribiendo en The Guardian AI, argumenta que las cifras de productividad del banco solo cuentan el tiempo ahorrado para el trabajador que usa la herramienta de IA.
• Los costos ocultos incluyen colegas verificando hechos inventados, corrigiendo mensajes a clientes, explicando solicitudes de préstamo rechazadas y escalando errores.
• Un solo equipo puede parecer más productivo en el papel mientras la carga de trabajo real se desplaza, silenciosamente, a otras partes del banco.
• No se ha publicado un desglose público de estos costos posteriores.

Lloyds Bank acaparó titulares a finales de julio cuando presentó un plan para reducir £2 mil millones en costos, con inteligencia artificial, la tecnología que impulsa herramientas como chatbots y procesamiento automatizado de documentos, realizando gran parte del trabajo pesado. Los números se veían claros. El plan no.

El Dr. Gleb Tsipursky, experto en toma de decisiones y riesgos de IA, plantea una pregunta que los números de los titulares no responden: cuando la IA comete un error, ¿cuyo tiempo lo paga?

¿Cómo se ve ese costo oculto en realidad?

Se ve como un colega releyendo una carta a un cliente que redactó la IA y descubriendo una tasa de interés inventada. Se ve como un trabajador de sucursal llamando a un cliente para explicar por qué su solicitud de hipoteca fue rechazada debido a un error del sistema. Se ve como una cola de escalado que no estaba ahí antes.

Las herramientas de IA que generan texto, resumen documentos o procesan solicitudes pueden producir lo que los investigadores llaman alucinaciones, es decir, respuestas que suenan confiadas pero son factualmente incorrectas. Atrapar esos errores requiere tiempo humano. Ese tiempo le pertenece a alguien.

El problema, argumenta Tsipursky, es simple contabilidad. Los bancos miden los minutos ahorrados por el empleado que usa directamente la IA. No miden los minutos que pasan después, cuando todos limpian tras ella. Un equipo registra una ganancia de productividad. El riesgo y el esfuerzo se desplazan hacia un lado.

¿Deberían preocuparse los clientes del banco?

No de manera dramática, pero hay cosas que vale la pena observar. Si la IA de un banco redacta una carta sobre tu cuenta, léela cuidadosamente antes de actuar sobre cualquier cifra o plazo que contenga. Si una solicitud es rechazada y la razón te parece incorrecta o vaga, pide una explicación escrita de un humano.

La preocupación práctica no es que la IA cause una crisis financiera. Es que los errores se difundan en muchas pequeñas interacciones, cada una molesta o costosa para el cliente involucrado, mientras que las métricas internas del banco muestran solo los ahorros.

Lloyds no ha publicado un desglose de cómo rastreará e informará el costo humano posterior de su programa de IA. Hasta que lo haga, la cifra de £2 mil millones cuenta solo la mitad de la historia.

¿Qué deben observar los lectores?

Si eres cliente de Lloyds o empleado de cualquier banco que implemente herramientas de IA, hay cuatro cosas que merecen tu atención: cartas o mensajes que citen números específicos (tasas, saldos, plazos) sin un autor humano identificado; avisos de rechazo que no ofrecen una ruta clara para apelar; tareas que solían tomar una persona y ahora parecen requerir dos; y cualquier proceso donde la salida de la IA te llega sin un paso de revisión humana entre la máquina y tu dinero.