Lloyds Bank की AI लागत-कटौती योजना में एक छिपा हुआ खर्च: जब मशीन गलती करे तो कौन भुगतान करता है?
एक शोधकर्ता का तर्क है कि बैंक जो केवल AI से बचने वाले मिनटों को गिनते हैं, वे उन घंटों को नजरअंदाज कर रहे हैं जो अन्य कर्मचारी इसकी गलतियों को ठीक करने में खर्च करते हैं।
मुख्य बातें
- Lloyds Bank ने 30 जुलाई को AI-संचालित स्वचालन के इर्द-गिर्द £2 अरब की लागत-कटौती योजना की घोषणा की।
- डॉ. ग्लेब सिपुरस्की, The Guardian AI में लिखते हैं, कि बैंक की उत्पादकता के आंकड़े केवल AI उपकरण का उपयोग करने वाले कर्मचारी के समय को गिनते हैं।
- छिपी हुई लागतों में साथियों द्वारा काल्पनिक तथ्यों की जांच, ग्राहक संदेशों को ठीक करना, अस्वीकृत ऋण आवेदनों की व्याख्या और त्रुटियों को बढ़ाना शामिल है।
- एक ही टीम कागज पर अधिक उत्पादक दिख सकती है जबकि वास्तविक कार्यभार शांति से बैंक के अन्य हिस्सों में स्थानांतरित हो जाता है।
- इन डाउनस्ट्रीम लागतों का कोई सार्वजनिक विवरण प्रकाशित नहीं किया गया है।
Lloyds Bank जुलाई के अंत में सुर्खियों में आया जब इसने £2 अरब की लागत में कटौती की योजना का अनावरण किया, कृत्रिम बुद्धिमत्ता - वह तकनीक जो चैटबॉट और स्वचालित दस्तावेज प्रसंस्करण जैसे उपकरणों को शक्ति देती है - भारी उठान कर रहा है। संख्याएं साफ-सुथरी दिख रहीं। योजना नहीं थी।
डॉ. ग्लेब सिपुरस्की, निर्णय लेने और AI जोखिम के विशेषज्ञ, एक ऐसा सवाल पूछ रहे हैं जिसका जवाब शीर्षक आंकड़े नहीं देते: जब AI कोई गलती करे, तो किसका समय इसके लिए भुगतान करता है?
वह छिपी हुई लागत वास्तव में कैसी दिखती है?
यह एक सहकर्मी की तरह दिखता है जो AI द्वारा तैयार किए गए ग्राहक पत्र को फिर से पढ़ता है और एक बनाई गई ब्याज दर को पकड़ता है। यह एक शाखा कर्मचारी की तरह दिखता है जो एक ग्राहक को यह समझाने के लिए कॉल करता है कि उनका बंधक आवेदन सिस्टम त्रुटि के आधार पर क्यों अस्वीकार किया गया था। यह एक एस्केलेशन कतार की तरह दिखता है जो पहले नहीं थी।
AI उपकरण जो पाठ उत्पन्न करते हैं, दस्तावेज़ों को सारांशित करते हैं या आवेदनों को संसाधित करते हैं, वे उत्पन्न कर सकते हैं जिसे शोधकर्ता "hallucinations" कहते हैं, जिसका अर्थ आत्मविश्वासपूर्ण-सुनने वाले उत्तर हैं जो तथ्यात्मक रूप से गलत हैं। उन त्रुटियों को पकड़ना मानव समय लेता है। वह समय किसी का है।
समस्या, सिपुरस्की का तर्क है, सरल लेखांकन है। बैंक AI का सीधे उपयोग करने वाले कर्मचारी द्वारा बचाए गए मिनटों को मापते हैं। वे डाउनस्ट्रीम में सभी द्वारा खर्च किए गए मिनटों को नहीं मापते जो इसके बाद सफाई करते हैं। एक टीम उत्पादकता लाभ पोस्ट करती है। जोखिम और प्रयास एक तरफ चले जाते हैं।
क्या बैंक ग्राहकों को चिंतित होना चाहिए?
नाटकीय तरीके से नहीं, लेकिन कुछ चीजें हैं जिन पर ध्यान देना चाहिए। यदि कोई बैंक का AI आपके खाते के बारे में एक पत्र तैयार करता है, तो इसमें शामिल किसी भी आंकड़े या समय सीमा पर कार्य करने से पहले इसे सावधानीपूर्वक पढ़ें। यदि कोई आवेदन अस्वीकार किया जाता है और कारण गलत या अस्पष्ट लगता है, तो लिखित रूप में मानव व्याख्या माँगें।
व्यावहारिक चिंता यह नहीं है कि AI वित्तीय संकट का कारण बनेगा। यह है कि त्रुटियां कई छोटी अंतःक्रियाओं में फैल जाती हैं, प्रत्येक शामिल ग्राहक के लिए कष्टप्रद या महंगी होती हैं, जबकि बैंक के आंतरिक मेट्रिक्स केवल बचत दिखाते हैं।
Lloyds ने प्रकाशित नहीं किया है कि यह अपने AI कार्यक्रम की डाउनस्ट्रीम मानव लागत को कैसे ट्रैक और रिपोर्ट करेगा। जब तक यह नहीं करता, £2 अरब का आंकड़ा केवल आधी कहानी बताता है।
पाठकों को किस बात पर ध्यान देना चाहिए?
यदि आप Lloyds ग्राहक हैं या किसी भी बैंक में कर्मचारी हैं जो AI उपकरण तैनात कर रहे हैं, तो चार चीजें आपके ध्यान के लायक हैं: पत्र या संदेश जो विशिष्ट संख्याओं (दरें, शेष राशि, समय सीमा) के साथ नाम के बिना किसी मानव लेखक के; अस्वीकृति नोटिस जो अपील के लिए कोई स्पष्ट मार्ग प्रदान नहीं करते हैं; कार्य जो एक व्यक्ति को करते थे और अब दो की आवश्यकता प्रतीत होती है; और कोई भी प्रक्रिया जहां AI का आउटपुट आपको मशीन और आपके पैसे के बीच बिना मानव समीक्षा चरण के जाता है।
