यह कहानी पुलित्जर सेंटर के एआई अकाउंटेबिलिटी नेटवर्क के समर्थन से तैयार की गई थी।
रोहतक और नई दिल्ली, भारत: 8 सितंबर, 2022 को धूली चंद 102 वर्ष के थे, जब उन्होंने उत्तर भारतीय राज्य हरियाणा के एक जिला शहर, रोहतक में एक शादी की बारात का नेतृत्व किया था।
जैसा कि उत्तर भारतीय शादियों में होता है, वह भारतीय रुपये के नोटों की माला पहने हुए अपनी शादी के परिधान में एक रथ पर बैठे, जबकि एक बैंड ने जश्न का संगीत बजाया और परिवार के सदस्य और ग्रामीण उनके साथ थे।
लेकिन दुल्हन के बजाय चांद सरकारी अधिकारियों से मिलने जा रहा था।
चंद ने अधिकारियों को यह साबित करने के लिए इस हरकत का सहारा लिया कि वह न केवल जीवित हैं बल्कि जीवंत भी हैं। उनके हाथ में एक तख्ती थी, जिस पर स्थानीय बोली में लिखा था: “थारा फूफा जिंदा है”, जिसका शाब्दिक अर्थ है “तुम्हारे चाचा जीवित हैं”।
छह महीने पहले, उनकी मासिक पेंशन अचानक बंद कर दी गई क्योंकि उन्हें सरकारी रिकॉर्ड में “मृत” घोषित कर दिया गया था।
हरियाणा की वृद्धावस्था सम्मान भत्ता योजना के तहत, 60 वर्ष और उससे अधिक आयु के लोग, जिनकी आय उनके पति या पत्नी के साथ प्रति वर्ष 300,000 रुपये ($ 3,600) से अधिक नहीं है, 2,750 रुपये ($ 33) की मासिक पेंशन के लिए पात्र हैं।
जून 2020 में, राज्य ने कल्याण दावेदारों की पात्रता निर्धारित करने के लिए एक नव निर्मित एल्गोरिथम प्रणाली – परिवार पहचान डेटा रिपोजिटरी या परिवार पहचान पत्र (पीपीपी) डेटाबेस का उपयोग करना शुरू किया।
पीपीपी राज्य में प्रत्येक परिवार को प्रदान की जाने वाली आठ अंकों की अद्वितीय आईडी है और इसमें परिवार के सदस्यों के जन्म और मृत्यु, विवाह, रोजगार, संपत्ति और आयकर सहित अन्य डेटा का विवरण होता है। यह कल्याणकारी योजनाओं के लिए उनकी पात्रता की जांच करने के लिए कई सरकारी डेटाबेस को जोड़कर प्रत्येक परिवार की जनसांख्यिकीय और सामाजिक आर्थिक जानकारी को मैप करता है।
राज्य ने कहा कि पीपीपी ने “सभी परिवारों का प्रामाणिक, सत्यापित और विश्वसनीय डेटा” बनाया, और नागरिकों के लिए सभी कल्याणकारी योजनाओं तक पहुंच को अनिवार्य बना दिया।
लेकिन व्यवहार में, पीपीपी ने चंद को गलत तरीके से “मृत” के रूप में चिह्नित कर दिया, जिससे उन्हें कई महीनों तक उनकी पेंशन से वंचित कर दिया गया। इससे भी बुरी बात यह है कि अधिकारियों ने उनकी “मृत” स्थिति को तब भी नहीं बदला जब वह बार-बार उनसे व्यक्तिगत रूप से मिले।
“हम कम से कम 10 बार जिला कार्यालयों में गए, जिनमें से पांच बार वह [Chand] भी हमारे साथ थे, ”चंद के पोते नरेश ने कहा। “सरकारी कार्यालयों में इस विसंगति को ठीक करने के कई प्रयासों और मुख्यमंत्री के पोर्टल पर शिकायत दर्ज करने के बाद भी कुछ नहीं हुआ।”
चंद द्वारा एक विवाह जुलूस की नकल करने और एक स्थानीय राजनेता से मिलने के बाद ही अधिकारियों ने अंततः अपनी गलती स्वीकार की और चंद की पेंशन जारी की।
चंद एल्गोरिथम विफलता का एक अलग उदाहरण नहीं है। पिछले साल अगस्त में राज्य विधानसभा में सरकार द्वारा प्रस्तुत आंकड़ों के अनुसार, उसने तीन साल की अवधि में 277,115 बुजुर्ग नागरिकों और 52,479 विधवाओं की पेंशन बंद कर दी क्योंकि वे “मृत” थीं।
हालाँकि, इनमें से कई हजार लाभार्थी वास्तव में जीवित थे और पीपीपी डेटाबेस में गलत डेटा फीड किए जाने या एल्गोरिदम द्वारा की गई गलत भविष्यवाणियों के कारण उन्हें गलत तरीके से मृत घोषित कर दिया गया था।
ऐसी विसंगतियाँ केवल वृद्धावस्था पेंशन तक ही सीमित नहीं थीं। विकलांगता और विधवा पेंशन और सब्सिडी वाले भोजन जैसी अन्य कल्याणकारी योजनाओं के लाभार्थियों को भी बाहर रखा गया है क्योंकि पीपीपी एल्गोरिदम ने उनकी आय या रोजगार के बारे में गलत भविष्यवाणी की है, जिससे उन्हें पात्रता मानदंड से बाहर रखा गया है।
जब एल्गोरिदम द्वारा गलत तरीके से मिटाए गए लोग रिकॉर्ड को सही कराने के लिए सरकारी अधिकारियों के पास गए, तो उन्हें लालफीताशाही का सामना करना पड़ा। कई लोगों को एक कार्यालय से दूसरे कार्यालय में भेज दिया गया, और यह स्पष्ट साबित करने के लिए अंतहीन आवेदन दायर करने के लिए मजबूर किया गया – कि वे वास्तव में जीवित थे।
अपने डेटा को सही कराने में सैकड़ों-हजारों नागरिकों को जिस कठिनाई का सामना करना पड़ा, उसने पीपीपी को हाल के वर्षों में हरियाणा सरकार की सबसे विवादास्पद सरकारी योजनाओं में से एक बना दिया है। विपक्षी दल ने इसे ‘स्थायी असुविधा दस्तावेज़’ कहा है और वादा किया है कि अगर वह 2024 में होने वाले अगले विधानसभा चुनावों में सत्ता में आती है तो इस कार्यक्रम को रद्द कर देगी।
हालाँकि, राज्य न केवल बचाव कर रहा है बल्कि कार्यक्रम का विस्तार भी कर रहा है। पीपीपी के कामकाज को संभालने वाले नागरिक संसाधन सूचना विभाग की सचिव सोफिया दहिया ने सितंबर 2022 में अल जज़ीरा को बताया: “पीपीपी कृत्रिम बुद्धिमत्ता और मशीन लर्निंग के उपयोग के माध्यम से सही लाभार्थियों तक सेवाओं की डिलीवरी को आसान और बेहतर बना रहा था और रिसाव को रोक रहा था।” . एक एकीकृत डेटाबेस प्राप्त करने के लिए विभिन्न डेटाबेसों को आपस में जोड़ा गया जो ‘सच्चाई का एकल स्रोत’ था।”
भारत अपने सकल घरेलू उत्पाद का लगभग 13 प्रतिशत, या लगभग 256 बिलियन डॉलर, देश की लगभग आधी आबादी को कल्याण लाभ प्रदान करने पर खर्च करता है। इस बात से चिंतित होकर कि ऐसे लाभ अयोग्य दावेदारों द्वारा हड़प लिए जा रहे हैं, संघीय और कई राज्य सरकारों ने कल्याण धोखाधड़ी को खत्म करने के लिए प्रौद्योगिकी पर तेजी से भरोसा किया है।
पिछले कुछ वर्षों में, कम से कम आधा दर्जन राज्यों ने कल्याणकारी योजनाओं के लिए नागरिकों की पात्रता की भविष्यवाणी करने के लिए एल्गोरिथम प्रणाली अपनाई है। पिछले साल अल जज़ीरा ने पुलित्जर सेंटर के आर्टिफिशियल इंटेलिजेंस (एआई) अकाउंटेबिलिटी नेटवर्क के साथ साझेदारी में ऐसे कल्याणकारी एल्गोरिदम के उपयोग और प्रभाव की जांच की।
प्रोफाइलिंग परिवार
हरियाणा के मुख्यमंत्री मनोहर लाल खट्टर ने जुलाई 2019 में पीपीपी कार्यक्रम शुरू किया और एक साल बाद इसे सभी कल्याणकारी लाभों के लिए अनिवार्य कर दिया।
गोपनीयता कानूनों के अभाव में, विपक्षी दलों ने पीपीपी के निर्माण के लिए नागरिकों के व्यक्तिगत डेटा को इकट्ठा करने के कदम का विरोध किया। सरकार ने तर्क दिया कि उसने दावेदारों को कोई दस्तावेज़ दिखाने या फ़ील्ड सत्यापन की आवश्यकता के बिना कल्याण के “सक्रिय” वितरण की अनुमति दी। सितंबर 2021 में, इसने हरियाणा परिवार पहचान अधिनियम पारित करके कार्यक्रम को कानूनी मंजूरी दी।
हालाँकि, एक साल के भीतर ही पीपीपी डेटा के साथ बड़े पैमाने पर समस्याएँ सामने आने लगीं। चंद के ‘शादी के जुलूस’ के स्टंट के सुर्खियों में आने के बाद, हजारों गरीबों ने योजनाओं से खुद को बाहर किए जाने की शिकायत करते हुए समाज कल्याण विभाग के जिला कार्यालयों में जमा हो गए। सार्वजनिक आक्रोश ने सरकार को पीपीपी डेटा की समीक्षा के लिए राज्य भर में शिकायत निवारण शिविर शुरू करने के लिए मजबूर किया।
29 अगस्त, 2023 को मुख्यमंत्री खट्टर ने स्वीकार किया कि कुल 63,353 लाभार्थियों में से जिनकी वृद्धावस्था पेंशन पीपीपी डेटा के आधार पर रोक दी गई थी, 44,050 (या 70 प्रतिशत) बाद में पात्र पाए गए। हालांकि खट्टर ने दावा किया कि सरकार ने अधिकांश गलत रिकॉर्डों को ठीक कर लिया है और गलत तरीके से बाहर किए गए लोगों के लाभ बहाल कर दिए हैं, लेकिन मीडिया रिपोर्टों से पता चलता है कि त्रुटियां अभी भी बनी हुई हैं।
एल्गोरिथम ब्लैक बॉक्स
सरकार ने अल जज़ीरा के सूचना के अधिकार (आरटीआई) आवेदनों का जवाब नहीं दिया, जिसमें डेटाबेस के डिजाइन और कामकाज के बारे में जानकारी मांगी गई थी ताकि यह पता लगाया जा सके कि पीपीपी डेटाबेस में त्रुटियां किस कारण से हुईं।
हालाँकि, सार्वजनिक रूप से उपलब्ध कुछ सरकारी दस्तावेज़ कार्यक्रम के कामकाज की एक झलक प्रदान करते हैं।
डेटाबेस बनाने के लिए, सरकार ने सबसे पहले परिवारों का जनसांख्यिकीय और पहचान डेटा एकत्र किया, जिसमें उनके आधार नंबर, प्रत्येक भारतीय नागरिक को सौंपी गई बायोमेट्रिक-आधारित विशिष्ट पहचान संख्या, उनका आयु प्रमाण, बैंक खाते और डेटा-एंट्री के माध्यम से कर पहचान संख्या शामिल थी। ग्रामीण स्तर पर संचालक।
इसके बाद एक केंद्रीकृत इलेक्ट्रॉनिक प्रणाली ने जन्म और मृत्यु रजिस्ट्रियां, भूमि और संपत्ति रिकॉर्ड, सरकारी कर्मचारी डेटाबेस, बिजली की खपत और आयकर रिटर्न डेटाबेस जैसे अन्य सरकारी डेटाबेस में नागरिकों की पहचान का मिलान करने के लिए आधार-आधारित प्रमाणीकरण का उपयोग किया। उनके व्यापक सामाजिक-आर्थिक प्रोफाइल।
इस डेटा का उपयोग आवेदकों की वार्षिक आय, आयु और अन्य पात्रता शर्तों को “इलेक्ट्रॉनिक रूप से” सत्यापित करने के लिए किया गया था। जहां डेटा की अनुपलब्धता के कारण इलेक्ट्रॉनिक सत्यापन संभव नहीं था, वहां भौतिक क्षेत्र सत्यापन किया गया। ऐसे मामलों में जहां भौतिक सत्यापन नहीं हुआ, परिवार की आय “तर्क-आधारित कृत्रिम बुद्धिमत्ता” द्वारा प्राप्त की जाती है [AI]।”
मुख्यमंत्री कार्यालय और पीपीपी और वृद्धावस्था पेंशन योजनाओं का प्रबंधन करने वाले विभागों ने एआई द्वारा उपयोग किए जाने वाले तर्क, सूत्र और स्रोत कोड के बारे में पूछे गए अल जज़ीरा के सवालों का जवाब नहीं दिया। न ही यह स्पष्ट किया कि पीपीपी में त्रुटियां गलत डेटा प्रविष्टि या एआई द्वारा गलत भविष्यवाणियों का परिणाम थीं। सरकार ने धुली चंद की उस आरटीआई क्वेरी का भी जवाब नहीं दिया है, जिसमें अधिकारियों से पूछा गया था कि पीपीपी ने उन्हें “मृत” के रूप में क्यों चिह्नित किया था।
खट्टर ने राज्य विधानसभा को बताया कि परिवार “नामित ऑनलाइन तंत्र” के माध्यम से पीपीपी द्वारा किए गए आय सत्यापन का विरोध कर सकते हैं।
लेकिन जिन परिवारों का डेटा अंततः सही कर दिया गया था, उन्होंने भी अल जज़ीरा को बताया कि एक गैर-जिम्मेदार आधिकारिक तंत्र से निपटने की प्रक्रिया कठिन और समय लेने वाली थी।
डेटा से मौत
60 वर्षीय राम चंदर और उनकी पत्नी ओमपति, दोनों हरियाणा के छिछराना गांव के निवासी हैं। मार्च 2022 में, दंपति को पता चला कि उनकी वृद्धावस्था पेंशन, जो केवल छह महीने पहले शुरू हुई थी, बंद कर दी गई थी क्योंकि उन्हें पीपीपी डेटाबेस में मृत घोषित कर दिया गया था।
राम चंदर ने विभिन्न सरकारी कार्यालयों में कई शिकायतें दर्ज कीं लेकिन कोई फायदा नहीं हुआ। उस मई में, उन्होंने सरकारी अधिकारियों को एक नोटरी-हस्ताक्षरित हलफनामा सौंपा जिसमें कहा गया था कि वह और उनकी पत्नी जीवित हैं और उनकी पेंशन फिर से शुरू की जाए।
जुलाई 2022 में, पीपीपी डेटाबेस ने उनकी स्थिति को सही करके “जीवित” कर दिया लेकिन वह त्रुटि दूसरे सरकारी डेटाबेस में जारी रही। स्थानीय डेटा एंट्री ऑपरेटर ने “जिंदा के रूप में चिह्नित करें” के उनके अनुरोध को स्वीकार कर लिया और अंततः अतिरिक्त उपायुक्त (एडीसी) के कार्यालय में उपस्थित होने के बाद इसे मंजूरी दे दी गई, जो जिला स्तर पर पीपीपी के कार्यान्वयन का प्रमुख है। दोनों की पेंशन बंद होने के लगभग छह महीने बाद फिर से शुरू हो गई।
चंदर ने सितंबर 2022 में अल जज़ीरा को बताया, “मैं मार्च 2022 से लगातार एडीसी के कार्यालय का दौरा कर रहा हूं।” उन्होंने मुझे बताया कि गलती को सुधार लिया गया है। फिर मैंने स्थानीय डेटा-एंट्री ऑपरेटर से मुलाकात की और पाया कि मेरी स्थिति अभी भी ‘मृत’ थी, और इसलिए मैं फिर से एडीसी कार्यालय गया। हर बार यही होता रहा।”
अल जज़ीरा ने हरियाणा में कई अन्य परिवारों से मुलाकात की, जिन्हें पीपीपी में त्रुटियों के कारण उनकी पेंशन से वंचित कर दिया गया था।
64 वर्षीय दया कोर अपने दो बेटों, एक बहू और दो पोते-पोतियों के परिवार के साथ रहती हैं। 1996 में उनके पति ओमप्रकाश की मृत्यु के बाद उन्हें राज्य की मासिक विधवा पेंशन मिलनी शुरू हुई। योजना के तहत विधवा महिलाओं को फिलहाल हर महीने 2,750 रुपये ($33) मिलते हैं। लेकिन मार्च 2022 में कोर की पेंशन बंद कर दी गई। पीपीपी रिकॉर्ड के अनुसार, वह और उनकी पोती प्रत्येक 600,000 रुपये ($7,200) की वार्षिक आय अर्जित कर रहे थे। उनकी पोती महज़ नौ साल की थी.
कोर के परिवार ने अल जज़ीरा को बताया कि परिवार में एकमात्र कमाने वाला सदस्य उनका 37 वर्षीय बड़ा बेटा देवेंदर था, जो एक निजी स्कूल के लिए बस ड्राइवर के रूप में काम करता था – प्रति माह लगभग 7,000 रुपये ($ 84) कमाता था – और एक अतिरिक्त नौकरी भी करता था। अंशकालिक किसान.
“अगर परिवार की आय 12 लाख रुपये से अधिक होती, तो हमें 2,500 रुपये पेंशन की आवश्यकता क्यों होती?” उसने पूछा।
दया कोर की पेंशन अंततः फिर से शुरू कर दी गई, लेकिन उनका परिवार इस प्रक्रिया में हुई कठिनाइयों को नहीं भूल सकता।
“पीपीपी में सुधार के लिए, मुझे एडीसी कार्यालय में आय प्रमाण पत्र प्राप्त करने के लिए कहा गया था,” देवेंद्र ने कहा। “लेकिन आय प्रमाणपत्र प्राप्त करने के लिए मुझसे मेरा पीपीपी मांगा जा रहा है। मुझे समझ नहीं आ रहा कि इससे कैसे निपटूं.”
(भाग —- पहला श्रृंखला से पता चला कि कैसे एक अपारदर्शी और गैरजिम्मेदार एल्गोरिथम प्रणाली ने कई हजार गरीबों को उनके उचित सब्सिडी वाले भोजन से वंचित कर दिया।)
तपस्या द रिपोर्टर्स कलेक्टिव की सदस्य हैं; कुमार संभव पुलित्जर सेंटर के 2022 एआई जवाबदेही फेलो थे और प्रिंसटन यूनिवर्सिटी की डिजिटल विटनेस लैब में भारत के शोध प्रमुख हैं; और दिविज जोशी यूनिवर्सिटी कॉलेज लंदन के विधि संकाय में डॉक्टरेट शोधकर्ता हैं।