17 नवंबर, 2023 को वाशिंगटन, डीसी में बनाया गया यह फोटो चित्रण एक फोन स्क्रीन को दिखाता है जिसमें समाचार एंकरों की तथ्य-जांच की गई छवि के सामने “बदले हुए वीडियो” के रूप में चिह्नित एक सोशल मीडिया वीडियो दिखाया गया है, जहां उनके बारे में दावा पाया गया था। झूठा होना. (फोटो: एएफपी)
लंदन – दिव्येंद्र सिंह जादौन भारत में फिल्म और टेलीविजन के लिए कृत्रिम बुद्धिमत्ता-आधारित दृश्य प्रभाव और आवाज क्लोन बनाने में व्यस्त थे, जब उन्हें राजनेताओं से फोन आने लगे: क्या वह अपने चुनाव अभियान के लिए एआई वीडियो या डीपफेक बना सकते हैं?
पिछले नवंबर में उनके गृह राज्य राजस्थान में जोरदार स्थानीय चुनाव और इस साल मई में होने वाले राष्ट्रीय चुनाव के साथ, उनकी कंपनी, द इंडियन डीपफेकर के लिए अवसर जबरदस्त है। लेकिन जादौन अनिच्छुक था।
30 वर्षीय जादौन ने कहा, “डीपफेक बनाने की तकनीक अब बहुत अच्छी है, इसे बहुत कम प्रयास के साथ लगभग तुरंत किया जा सकता है – और लोग यह नहीं बता सकते कि यह असली है या नकली।”
उन्होंने थॉमसन रॉयटर्स फाउंडेशन को बताया, “डीपफेक पर कोई दिशानिर्देश नहीं हैं, और यह चिंताजनक है, क्योंकि इसमें किसी व्यक्ति के वोट करने के तरीके को प्रभावित करने की क्षमता है।”
भारतीय प्रधान मंत्री नरेंद्र मोदी के क्षेत्रीय भाषाओं में गायन के इंस्टाग्राम रील हाल ही में वायरल हुए हैं, साथ ही इंडोनेशियाई राष्ट्रपति पद के उम्मीदवारों प्रबोवो सुबिआंतो और अनीस बासवेदन के धाराप्रवाह अरबी में बोलने के टिकटॉक वीडियो भी वायरल हुए हैं।
लेकिन वे सभी AI के साथ बनाए गए थे और बिना किसी लेबल के पोस्ट किए गए थे।
तकनीकी विशेषज्ञों और अधिकारियों का कहना है कि आने वाले हफ्तों में भारत, इंडोनेशिया, बांग्लादेश और पाकिस्तान में चुनाव होने वाले हैं, इसलिए सोशल मीडिया प्लेटफॉर्म पर गलत सूचनाएं व्याप्त हैं, जिसमें डीपफेक – एआई का उपयोग करके बनाए गए वीडियो या ऑडियो और प्रामाणिक के रूप में प्रसारित किए जाने वाले – विशेष रूप से चिंताजनक हैं।
भारत में, जहां 900 मिलियन से अधिक लोग वोट देने के पात्र हैं, मोदी ने कहा है कि डीपफेक वीडियो एक “बड़ी चिंता” है, और अधिकारियों ने सोशल मीडिया प्लेटफार्मों को चेतावनी दी है कि वे अपनी सुरक्षित बंदरगाह स्थिति खो सकते हैं जो उन्हें तीसरे पक्ष के दायित्व से बचाता है। यदि वे कार्रवाई नहीं करते हैं तो उनकी साइटों पर पोस्ट की गई सामग्री।
इंडोनेशिया में – जहां 200 मिलियन से अधिक मतदाता 14 फरवरी को मतदान करेंगे – सभी तीन राष्ट्रपति पद के उम्मीदवारों और उनके चल रहे साथियों के डीपफेक ऑनलाइन प्रसारित हो रहे हैं, और चुनाव परिणामों को प्रभावित करने की क्षमता रखते हैं, नुउरियंती जल्ली ने कहा, जो सामाजिक पर गलत सूचना का अध्ययन करते हैं मीडिया.
उन्होंने कहा, “दुष्प्रचार के जरिए मतदाताओं को सूक्ष्म लक्ष्य बनाने से लेकर अकेले मानवीय कलाकारों द्वारा अप्राप्य पैमाने और गति से झूठी बातें फैलाने तक, ये एआई उपकरण मतदाताओं की धारणाओं और व्यवहार को महत्वपूर्ण रूप से प्रभावित कर सकते हैं।”
ओक्लाहोमा स्टेट यूनिवर्सिटी के मीडिया स्कूल में सहायक प्रोफेसर जल्ली ने कहा, “ऐसे वातावरण में जहां गलत सूचना पहले से ही प्रचलित है, एआई-जनित सामग्री सार्वजनिक धारणा को और खराब कर सकती है और मतदान व्यवहार को प्रभावित कर सकती है।”
‘राजनीतिक प्रचार’
मिडजर्नी, स्टेबल डिफ्यूजन और ओपनएआई के डैल-ई जैसे जेनेरिक एआई टूल्स द्वारा बनाई गई डीपफेक छवियां और वीडियो पिछले साल न्यूजीलैंड से लेकर तुर्की और अर्जेंटीना तक के चुनावों से पहले सामने आए थे, जिससे नवंबर में अमेरिकी राष्ट्रपति चुनावों पर उनके प्रभाव के बारे में चिंताएं बढ़ गई थीं।
अमेरिकी गैर-लाभकारी संस्था फ्रीडम हाउस ने एक हालिया रिपोर्ट में कहा कि एआई दुष्प्रचार के निर्माण और प्रसार को तेज, सस्ता और अधिक प्रभावी बनाता है।
बांग्लादेश में – जहां 7 जनवरी को मतदान के बाद प्रधान मंत्री शेख हसीना अपने चौथे सीधे कार्यकाल के लिए तैयार हैं – बिकनी में महिला विपक्षी राजनेताओं रूमिन फरहाना और स्विमिंग पूल में निपुण रॉय के डीपफेक वीडियो सामने आए हैं।
बांग्लादेश के जहांगीरनगर विश्वविद्यालय में पत्रकारिता के सहायक प्रोफेसर और सोशल मीडिया का अध्ययन करने वाले सईद अल-ज़मान ने कहा, हालांकि उन्हें तुरंत खारिज कर दिया गया था, फिर भी वे प्रसारित हो रहे हैं, और यहां तक कि खराब गुणवत्ता वाली डीपफेक सामग्री भी लोगों को गुमराह कर रही है।
उन्होंने कहा, “बांग्लादेश में सूचना और डिजिटल साक्षरता के निम्न स्तर को देखते हुए, अगर प्रभावी ढंग से तैयार और तैनात किया जाए तो डीपफेक राजनीतिक प्रचार के शक्तिशाली वाहक हो सकते हैं।”
“लेकिन सरकार चिंतित नहीं दिख रही है।”
सूचना मंत्रालय ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
पाकिस्तान में, जहां 8 फरवरी को चुनाव होना है, इमरान खान, जो पिछले साल प्रधान मंत्री पद से हटाए जाने के बाद आधिकारिक गोपनीयता अधिनियम के मामले में जेल में हैं, ने एक ऑनलाइन चुनावी रैली को संबोधित करने के लिए एआई-जनित छवि और आवाज क्लोन का इस्तेमाल किया। दिसंबर, जिसे यूट्यूब पर 1.4 मिलियन से अधिक बार देखा गया और हजारों लोगों ने इसमें लाइव भाग लिया।
जबकि पाकिस्तान ने एक एआई कानून का मसौदा तैयार किया है, डिजिटल अधिकार कार्यकर्ताओं ने दुष्प्रचार के खिलाफ और महिलाओं सहित कमजोर समुदायों की सुरक्षा के लिए सुरक्षा उपायों की कमी की आलोचना की है।
गैर-लाभकारी डिजिटल राइट्स फाउंडेशन के सह-संस्थापक, निघत डैड ने कहा, “पाकिस्तान में चुनावों और समग्र लोकतांत्रिक प्रक्रिया के लिए दुष्प्रचार से जो खतरा है, उस पर पर्याप्त जोर नहीं दिया जा सकता है।”
उन्होंने कहा, “अतीत में, ऑनलाइन प्लेटफ़ॉर्म पर दुष्प्रचार मतदान व्यवहार, पार्टी समर्थन को प्रभावित करने और यहां तक कि कानून में बदलाव को भी प्रभावित करने में कामयाब रहा है। सिंथेटिक मीडिया ऐसा करना आसान बना देगा।”
‘खतरनाक संकेत’
सिंथेटिक मीडिया का पता लगाने के लिए उपकरण विकसित करने वाली कंपनी डीपमीडिया का अनुमान है कि 2023 में वैश्विक स्तर पर सोशल मीडिया साइटों पर कम से कम 500,000 वीडियो और वॉयस डीपफेक साझा किए गए थे।
प्लेटफ़ॉर्म को बनाए रखने के लिए संघर्ष करना पड़ा है।
मेटा, जो फेसबुक, इंस्टाग्राम और व्हाट्सएप का मालिक है, ने कहा कि इसका उद्देश्य सिंथेटिक मीडिया को हटाना है जब “हेरफेर स्पष्ट नहीं है और गुमराह कर सकता है, खासकर वीडियो सामग्री के मामले में।”
Google, जो YouTube का मालिक है, ने नवंबर में कहा था कि वीडियो शेयरिंग प्लेटफ़ॉर्म के लिए “निर्माताओं को AI टूल का उपयोग करने सहित यथार्थवादी परिवर्तित या सिंथेटिक सामग्री का खुलासा करने की आवश्यकता है, और हम दर्शकों को लेबल के माध्यम से ऐसी सामग्री के बारे में सूचित करेंगे”।
लेकिन भारत, इंडोनेशिया और बांग्लादेश सहित देशों ने हाल ही में ऑनलाइन सामग्री पर अधिक सख्ती से पुलिस लगाने और गलत सूचना समझी जाने वाली सामग्री के लिए सोशल मीडिया साइटों को दंडित करने के लिए कानून पारित किए हैं, इसलिए प्लेटफ़ॉर्म “अपने मुक्के मार रहे हैं”, एडवोकेसी ग्रुप एक्सेस के एशिया नीति निदेशक रमन जीत सिंह चीमा ने कहा। अब।
इन देशों में, “यह चुनाव चक्र वास्तव में पिछले चक्र से भी बदतर है – समस्याओं को संभालने के लिए मंच स्थापित नहीं किए गए हैं, और वे पर्याप्त रूप से उत्तरदायी और सक्रिय नहीं हो रहे हैं। और यह एक बहुत ही खतरनाक संकेत है,” उन्होंने कहा।
उन्होंने कहा, “इस बात का ख़तरा है कि दुनिया का ध्यान केवल अमेरिकी चुनाव पर है, लेकिन वहां जो मानक लागू किए जा रहे हैं, जो प्रयास किए जा रहे हैं, उन्हें हर जगह दोहराया जाना चाहिए।”
भारत में, जहां व्यापक रूप से मोदी के तीसरी बार जीतने की भविष्यवाणी की जा रही है, जादौन – जिन्होंने राज्य चुनावों के लिए डीपफेक अभियान वीडियो बनाने से इनकार कर दिया था – उन्हें आम चुनाव के लिए बनाने की तैयारी कर रहे हैं।
ये मतदाताओं के लिए नहीं, बल्कि पार्टी कार्यकर्ताओं के लिए राजनेताओं के व्यक्तिगत वीडियो संदेश होंगे, जिन्हें व्हाट्सएप पर भेजा जा सकता है।
उन्होंने कहा, “वे वास्तव में प्रभाव डाल सकते हैं, क्योंकि पार्टी के सैकड़ों-हजारों कार्यकर्ता हैं और वे बदले में उन्हें अपने दोस्तों और परिवार तक पहुंचाएंगे।”
“लेकिन हम यह दिखाने के लिए एक वॉटरमार्क जोड़ेंगे कि यह एआई के साथ बनाया गया है, इसलिए कोई गलतफहमी नहीं है। यह महत्वपूर्ण है।”