План скорочення витрат Lloyds Bank за допомогою AI має приховану сторінку: хто платить, коли машина помиляється?
Дослідник стверджує, що банки, які враховують лише хвилини, які заощаджує AI, ігнорують години, які інші працівники витрачають на виправлення допущених помилок.
Ключові моменти
- 30 липня Lloyds Bank оголосив про план скорочення витрат на £2 млрд, побудований на основі AI-автоматизації.
- Др. Глеб Ціпурський, пишучи в The Guardian AI, стверджує, що показники продуктивності банку враховують лише час, заощаджений для працівника, який використовує інструмент AI.
- Приховані витрати включають перевірку колегами вигаданих фактів, виправлення повідомлень клієнтів, пояснення відхилених заявок на позику та передачу помилок на розгляд.
- Один відділ може здатися продуктивнішим на папері, тоді як фактичне навантаження тихо переміщується в інші частини банку.
- Публічного розподілу цих вторинних витрат опубліковано не було.
Lloyds Bank привернув увагу наприкінці липня, коли представив план скорочення витрат на £2 млрд, в якому штучний інтелект, технологія, що лежить в основі чат-ботів і автоматизованої обробки документів, виконує основну роботу. Цифри виглядали чистими. План ні.
Др. Глеб Ціпурський, експерт з прийняття рішень та ризиків AI, ставить запитання, на яке не відповідають основні цифри: коли AI щось помиляється, чий час за це платить?
Як насправді виглядає цей прихований витрати?
Це виглядає як колега, який перечитує лист клієнта, написаний AI, і виявляє вигадану процентну ставку. Це виглядає як працівник відділення, який телефонує клієнту, щоб пояснити, чому його заявка на іпотеку була відхилена через системну помилку. Це виглядає як черга передачі, якої раніше не було.
Інструменти AI, які генерують текст, резюмують документи або обробляють заявки, можуть створювати те, що дослідники називають халюцинаціями, тобто впевнені на вигляд, але фактично неправильні відповіді. Виявлення цих помилок потребує часу людини. Цей час належить комусь.
Проблема, як стверджує Ціпурський, у простому обліку. Банки вимірюють хвилини, заощаджені працівником, який безпосередньо використовує AI. Вони не вимірюють хвилини, витрачені згодом усіма, хто прибирає після нього. Один відділ показує приріст продуктивності. Ризик та зусилля переміщуються набік.
Чи мають клієнти банків причину для занепокоєння?
Не в драматичному сенсі, але є речі, варті уваги. Якщо AI банку складає лист про ваш рахунок, уважно прочитайте його перед тим, як діяти на основі будь-яких цифр чи термінів, які він містить. Якщо заявку відхилено, і причина здається неправильною або невизначеною, запросіть письмове пояснення від людини.
Практична проблема полягає не в тому, що AI спричинить фінансову кризу. Це полягає в тому, що помилки розповсюджуються через багато дрібних взаємодій, кожна з яких є докучливою або коштовною для залученого клієнта, тоді як внутрішні метрики банку показують лише заощадження.
Lloyds не опублікував розбиття того, як він відстежуватиме та звітуватиме про вторинну людську вартість своєї програми AI. Доки він цього не зробить, цифра £2 млрд розповідає лише половину історії.
На що мають звернути увагу читачі?
Якщо ви клієнт Lloyds або працівник будь-якого банку, який впроваджує інструменти AI, чотири речі варті вашої уваги: листи або повідомлення, які наводять конкретні цифри (ставки, залишки, терміни) без імені автора; повідомлення про відхилення, які не пропонують чіткого шляху до апеляції; завдання, які раніше виконувала одна людина, а тепер, здається, потребують двох; і будь-який процес, де результат AI надходить до вас без етапу перевірки людиною між машиною та вашими грошима.
