El plan de reducción de costes con IA de Lloyds Bank tiene una pestaña oculta: ¿quién paga cuando la máquina se equivoca?
Un investigador sostiene que los bancos que solo cuentan los minutos que ahorra la IA ignoran las horas que otros trabajadores dedican a corregir los errores que genera.
Puntos clave
- Lloyds Bank anunció un plan de reducción de costes de £2 mil millones el 30 de julio basado en automatización impulsada por IA.
- El Dr. Gleb Tsipursky argumenta que las cifras de productividad del banco solo cuentan el tiempo ahorrado para el trabajador que utiliza la herramienta de IA.
- Los costes ocultos incluyen colegas verificando hechos inventados, corrigiendo mensajes de clientes y explicando solicitudes de préstamo rechazadas.
- Un único equipo puede parecer más productivo sobre el papel mientras la carga de trabajo real se desplaza a otras partes del banco.
- No se ha publicado ningún desglose público de estos costes secundarios.
Cuando Lloyds Bank dio a conocer su plan para reducir £2 mil millones en costes el 30 de julio, los números se veían claros. Lo que no capturaban era más difícil de ver.
El Dr. Gleb Tsipursky, investigador en toma de decisiones y riesgo de IA, sostiene que las cifras de portada omiten una pregunta crítica: cuando la IA comete un error, ¿cuyo tiempo absorbe el coste?
¿Cómo se ve realmente ese coste oculto?
Un colega revisa una carta de cliente y detecta una tasa de interés inventada. Un trabajador de sucursal llama a un cliente para explicar por qué su hipoteca fue rechazada por un error del sistema. Una cola de escalada aparece que no estaba allí antes.
Las herramientas de IA que redactan texto o procesan solicitudes pueden producir lo que los investigadores llaman alucinaciones: respuestas que suenan confiadas pero son factualmente incorrectas. Detectar esos errores requiere tiempo humano, y ese tiempo pertenece a otra persona en la organización.
El argumento de Tsipursky es un simple problema contable. Los bancos miden los minutos ahorrados por el empleado que utiliza directamente la IA. No miden los minutos dedicados por todos a limpiar sus consecuencias. Un equipo registra una ganancia de productividad; el riesgo y el esfuerzo se desplazan hacia otro lado.
¿Deberían preocuparse los clientes del banco?
No dramáticamente, pero hay cosas que vale la pena vigilar. Si la IA de Lloyds redacta una carta sobre tu cuenta, verifica cualquier cifra o plazo antes de actuar sobre ella. Si una solicitud es rechazada y la razón te parece vaga, pide una explicación humana por escrito.
La preocupación real no es una crisis financiera. Es que los errores se dispersan en muchas pequeñas interacciones, cada una costosa o frustrante para el cliente individual, mientras que las métricas internas del banco registran solo los ahorros. Robert Charette, cuyo trabajo de décadas traduciendo riesgo de software a lenguaje llano reflexionamos en agosto, llamó a este tipo de coste invisible la parte que siempre llega tarde.
Lloyds no ha publicado un desglose de cómo realizará el seguimiento del coste humano secundario de su programa de IA. Hasta que lo haga, la cifra de £2 mil millones cuenta solo la mitad de la historia.
¿Qué deben vigilar los lectores?
Cuatro cosas merecen atención si eres cliente de Lloyds o trabajas en cualquier banco que implementa herramientas de IA: cartas que citan tasas o plazos específicos sin autor humano nombrado; notificaciones de rechazo sin una ruta clara de apelación; tareas que ahora parecen requerir dos personas donde antes una era suficiente; y cualquier proceso donde el resultado de la IA te llegue sin un paso de revisión humana entre la máquina y tu dinero.
La solución contable que Tsipursky propone no es complicada. Solo es inconveniente para los bancos cuyas proyecciones de ahorros no presupuestan la limpieza.
