चुनावों के आधुनिक परिदृश्य में, प्रौद्योगिकी के एकीकरण ने लगातार अभियान प्रक्रिया को आकार दिया है। 1990 के दशक में फोन कॉल से लेकर हाल के वर्षों में फेसबुक, ट्विटर और व्हाट्सएप जैसे सोशल मीडिया प्लेटफॉर्म के प्रभुत्व तक, बढ़ती तकनीकी प्रगति ने महत्वपूर्ण भूमिका निभाई है।

हालाँकि, यह प्रगति अपनी चुनौतियों के साथ आई है, विशेष रूप से गलत सूचना के क्षेत्र में और डीप फेक के उदय के साथ। डीप फेक, एआई-जनरेटेड वीडियो या ऑडियो जो प्रामाणिक प्रतीत होते हैं, मतदाता निर्णयों को प्रभावित करने और संभावित रूप से भू-राजनीति के प्रक्षेप पथ को बदलने में एक महत्वपूर्ण चिंता पैदा करते हैं। बांग्लादेश के संसदीय चुनावों और भारत के उदाहरणों सहित विभिन्न देशों में हाल की घटनाओं के साथ, चुनावों पर गहरे फर्जीवाड़े के प्रभाव के बारे में चर्चा ने गति पकड़ ली है।

राजनीतिक संदर्भ में गहरे फर्जीवाड़े का उदय

भारत में एआई-आधारित दृश्य प्रभावों में लगे दिव्येंद्र सिंह जादौन को उस समय दुविधा का सामना करना पड़ा जब राजनेताओं ने एआई-जनित अभियान वीडियो की मांग की। डीप फेक पर नियमों की अनुपस्थिति मतदान व्यवहार पर उनके संभावित प्रभाव के बारे में चिंताओं को बढ़ाती है। एआई-जनित अभियान वीडियो का अनुरोध करने वाले राजनेताओं के साथ दिव्येंद्र सिंह जादौन की मुठभेड़ राजनीतिक संदर्भों में गहरी नकली प्रौद्योगिकी के उपयोग के आसपास एक महत्वपूर्ण नैतिक दुविधा को दर्शाती है। उनकी हिचकिचाहट गहरे नकली के निर्माण और प्रसार को नियंत्रित करने वाले मजबूत नियमों की अनुपस्थिति को उजागर करती है, जिससे मतदाताओं की निर्णय लेने की प्रक्रिया पर उनके प्रभाव के बारे में चिंताएं बढ़ जाती हैं।

Also Read: What Is The AI Deepfake Problem PM Modi Is Cautioning Us About

भारत में आगामी आम चुनाव की प्रत्याशा में, जहां प्रधान मंत्री मोदी के तीसरे कार्यकाल हासिल करने की संभावना व्यापक रूप से प्रत्याशित है, जादौन, जिन्होंने पहले राज्य चुनावों के लिए गहरे नकली अभियान वीडियो बनाने से इनकार कर दिया था, अब उन्हें राष्ट्रीय चुनावों के लिए तैयार करने की तैयारी कर रहे हैं। . ये वीडियो सीधे मतदाताओं को लक्षित करने के बजाय पार्टी कार्यकर्ताओं के लिए राजनेताओं के व्यक्तिगत संदेशों का रूप लेंगे और व्हाट्सएप के माध्यम से वितरित किए जाएंगे।

जादौन ने इन वीडियो के संभावित प्रभाव पर जोर देते हुए कहा, “वे वास्तव में बदलाव ला सकते हैं क्योंकि सैकड़ों-हजारों पार्टी कार्यकर्ता हैं जो बाद में उन्हें अपने दोस्तों और परिवार के साथ साझा करेंगे।” उन्होंने वीडियो की निर्माण प्रक्रिया में पारदर्शिता के महत्व पर भी जोर देते हुए कहा, “हालांकि, कोई भ्रम न हो यह सुनिश्चित करने के लिए हम एक वॉटरमार्क शामिल करेंगे जो दर्शाता है कि सामग्री एआई-जनरेटेड है। यह पहलू महत्वपूर्ण है।”

बांग्लादेश में क्या हुआ?

बांग्लादेश के चुनावों के दौरान गहरे नकली वीडियो का उद्भव सार्वजनिक धारणाओं को आकार देने में हेरफेर की गई सामग्री द्वारा किए गए पर्याप्त प्रभाव का एक मार्मिक उदाहरण प्रस्तुत करता है। बांग्लादेश के राजनीतिक परिदृश्य में, 7 जनवरी के चुनावों के बाद प्रधान मंत्री शेख हसीना के लगातार चौथे कार्यकाल के लिए फिर से चुने जाने से पहले, गहरी नकली वीडियो के प्रसार से जुड़ी घटनाएं हुई थीं।

इस अवधि के दौरान, महिला विपक्षी राजनेताओं रूमिन फरहाना और निपुण रॉय की विशेषता वाले हेरफेर किए गए वीडियो सामने आए। इन वीडियो में कथित तौर पर रुमिन फरहाना को बिकनी में और निपुण रॉय को स्विमिंग पूल में दिखाया गया है। तेजी से खंडन करने के प्रयासों के बावजूद, ये हेरफेर किए गए वीडियो विभिन्न सोशल मीडिया प्लेटफार्मों पर प्रसारित होते रहे। बांग्लादेश के जहांगीरनगर विश्वविद्यालय में पत्रकारिता के सहायक प्रोफेसर सईद अल-ज़मान जैसे विशेषज्ञों ने व्यक्तियों को गुमराह करने के लिए कम गुणवत्ता वाली गहरी नकली सामग्री की क्षमता के बारे में चिंता जताई थी, खासकर ऐसे देश में जहां सूचना और डिजिटल साक्षरता का स्तर तुलनात्मक रूप से हो सकता है। कम।

इन गहरे नकली वीडियो के उद्भव और प्रसार ने जनता की राय को प्रभावित करने की उनकी क्षमता के बारे में चिंताओं को रेखांकित किया, विशेष रूप से ऐसे माहौल में जहां सीमित डिजिटल साक्षरता के कारण हेरफेर की गई सामग्री से प्रामाणिक सामग्री को अलग करना चुनौतीपूर्ण हो सकता है। हालाँकि, चुनाव परिणामों या मतदाता व्यवहार पर इन वीडियो का सटीक प्रभाव अनिश्चित बना हुआ है।

बांग्लादेश के जहांगीरनगर विश्वविद्यालय में पत्रकारिता के सहायक प्रोफेसर सईद अल-ज़मान ने ठीक ही कहा है, “बांग्लादेश में सूचना और डिजिटल साक्षरता के निम्न स्तर को देखते हुए, यदि प्रभावी ढंग से तैयार और तैनात किया जाए तो डीप फेक राजनीतिक प्रचार के शक्तिशाली वाहक हो सकते हैं।”

यह भावना विश्व स्तर पर तकनीकी विशेषज्ञों द्वारा व्यक्त की गई व्यापक चिंता के अनुरूप है। दिव्येंद्र सिंह जादौन खुद डीप फेक तकनीक के चिंताजनक पहलू को स्वीकार करते हुए कहते हैं, “डीप फेक बनाने की तकनीक अब बहुत अच्छी है, इसे बहुत कम प्रयास के साथ लगभग तुरंत किया जा सकता है – और लोग यह नहीं बता सकते कि यह असली है या नकली।”

फ्रीडम हाउस, एक यू.एस.-आधारित गैर-लाभकारी संगठन, एआई द्वारा सुगम गलत सूचना की तेज गति पर प्रकाश डालता है, इस बात पर जोर देता है कि यह कैसे गलत सूचना के प्रसार को बढ़ाता है, इसे तेज, सस्ता और अधिक प्रभावी बनाता है।

डीप फेक का प्रभाव किसी एक क्षेत्र तक ही सीमित नहीं है। मतदाताओं की राय को प्रभावित करने के लिए इन हेरफेर किए गए वीडियो की क्षमता ने प्रधान मंत्री नरेंद्र मोदी का ध्यान आकर्षित किया है, जिन्होंने डीप फेक को “बड़ी चिंता” के रूप में संदर्भित किया है। तीसरे पक्ष की सामग्री के प्रति दायित्व के संबंध में सोशल मीडिया प्लेटफार्मों को भारत सरकार की चेतावनी स्थिति की गंभीरता को दर्शाती है।

एक्सेस नाउ के एशिया नीति निदेशक, रमन जीत सिंह चीमा, इस मुद्दे से निपटने में प्लेटफार्मों की अपर्याप्तता के बारे में चिंता व्यक्त करते हुए, खतरनाक परिदृश्य को रेखांकित करते हैं। उनका कहना है, “प्लेटफ़ॉर्म समस्याओं से निपटने के लिए स्थापित नहीं किए गए हैं, और वे पर्याप्त रूप से उत्तरदायी और सक्रिय नहीं हैं। और यह बहुत खतरनाक संकेत है।

एआई के माध्यम से गलत सूचना का खतरा

मेटा (जो फेसबुक, इंस्टाग्राम और व्हाट्सएप का मालिक है) और गूगल जैसे प्लेटफार्मों ने डीप फेक और सिंथेटिक मीडिया के प्रसार से उत्पन्न चुनौती से निपटने के लिए कई उपाय किए हैं।

मेटा और Google ने अपने प्लेटफ़ॉर्म से सिंथेटिक मीडिया सामग्री को पहचानने और हटाने के लिए डिटेक्शन टूल विकसित और कार्यान्वित किए हैं। ये उपकरण सामग्री के भीतर पैटर्न, विसंगतियों या परिवर्तनों का विश्लेषण करके संभावित गहरी जालसाजी का पता लगाने के लिए एआई और मशीन लर्निंग एल्गोरिदम का उपयोग करते हैं।

Google ने, विशेष रूप से अपने YouTube प्लेटफ़ॉर्म पर, ऐसी नीतियां लागू की हैं जिनके लिए रचनाकारों को परिवर्तित या सिंथेटिक सामग्री का खुलासा करने की आवश्यकता होती है जो यथार्थवादी लग सकती है। यह खुलासा सुनिश्चित करता है कि दर्शकों को उनके द्वारा देखी जा रही सामग्री की प्रकृति के बारे में सूचित किया जाए। ये प्लेटफ़ॉर्म डीपफेक सहित संभावित रूप से भ्रामक या गलत जानकारी को सत्यापित करने और लेबल करने के लिए तीसरे पक्ष के तथ्य-जांच संगठनों के साथ सहयोग करते हैं। एक बार चिह्नित किए जाने के बाद, सामग्री की अतिरिक्त जांच की जाती है और उपयोगकर्ताओं को चेतावनी जारी की जाती है।

मेटा और गूगल जैसी कंपनियां सिंथेटिक मीडिया का पता लगाने और उससे निपटने में अपने एआई एल्गोरिदम की क्षमताओं को बढ़ाने के लिए अनुसंधान और विकास में संसाधनों का निवेश करना जारी रखती हैं। इन प्रयासों का उद्देश्य डीप फेक बनाने के लिए इस्तेमाल की जाने वाली विकसित तकनीकों से आगे रहना है।

इन पहलों के बावजूद, एआई और डीप फेक तकनीक में तेजी से प्रगति एक सतत चुनौती पेश करती है। सिंथेटिक मीडिया की विशाल मात्रा और परिष्कार हेरफेर की गई सामग्री के हर उदाहरण का सटीक रूप से पता लगाने और हटाने में कठिनाइयाँ पैदा करता है। इसके अतिरिक्त, सोशल मीडिया प्लेटफार्मों का वैश्विक स्तर विभिन्न क्षेत्रों और भाषाओं में सामग्री मॉडरेशन नीतियों को समान रूप से लागू करना चुनौतीपूर्ण बनाता है।

इसके अलावा, जबकि भारत और बांग्लादेश जैसे देशों ने ऑनलाइन सामग्री को विनियमित करने और गलत सूचना से निपटने के लिए कानून बनाए हैं, कार्यान्वयन और प्रवर्तन चुनौतीपूर्ण बना हुआ है। सोशल मीडिया प्लेटफ़ॉर्म को स्वतंत्र अभिव्यक्ति के संरक्षण और अपने प्लेटफ़ॉर्म पर साझा की गई जानकारी की अखंडता को संतुलित करते हुए इन अलग-अलग नियामक वातावरणों को नेविगेट करना चाहिए।

भारतीय चुनावों और भूराजनीति के लिए निहितार्थ

प्रधान मंत्री नरेंद्र मोदी ने डीप फेक से उत्पन्न खतरे पर प्रकाश डाला और उन्हें “नए युग का संकट” बताया। चुनावों में एआई-जनित सामग्री का प्रभाव स्पष्ट रहा है, जैसा कि भारत के स्थानीय चुनावों के दौरान हुई घटनाओं में देखा गया है। डीप फेक के माध्यम से प्रसारित भ्रामक सूचनाओं के प्रति मतदाताओं की संवेदनशीलता चुनावी प्रक्रियाओं में अनिश्चितता की एक अभूतपूर्व परत जोड़ती है। भारत में विभिन्न राज्य चुनावों के दौरान, ऐसे उदाहरण थे जहां गहरी नकली तकनीक चुनावी चर्चा को आकार देने में एक महत्वपूर्ण कारक बन गई।

उदाहरण के लिए, 2020 के दिल्ली विधानसभा चुनावों के दौरान, तत्कालीन राज्य भारतीय जनता पार्टी (भाजपा) के अध्यक्ष मनोज तिवारी के कई भाषाओं में मुख्यमंत्री अरविंद केजरीवाल की नीतियों की आलोचना करते हुए वीडियो सामने आए। ये वीडियो व्यापक रूप से प्रसारित किए गए, जो चुनावी परिदृश्य में एआई-हेरफेर वाली सामग्री की घुसपैठ का संकेत देते हैं।

इसी तरह, मध्य प्रदेश और तेलंगाना जैसे राज्यों में जैसे-जैसे चुनाव नजदीक आए, उल्लेखनीय घटनाएं हुईं। ऐसी ही एक घटना में ‘कौन बनेगा करोड़पति’ (केबीसी) क्विज़ शो से ली गई एक छेड़छाड़ की गई वीडियो क्लिप शामिल थी, जिसमें मध्य प्रदेश में भाजपा के नेता शिवराज सिंह चौहान को प्रतिकूल रूप में दर्शाया गया था। इन घटनाओं से पता चलता है कि कैसे गहरी नकली तकनीक राजनीतिक लड़ाई में एक रणनीतिक उपकरण बन गई है, जो सार्वजनिक धारणाओं को प्रभावित करने के लिए सामग्री में हेरफेर करती है।

इन उदाहरणों ने भारत में राज्य चुनावों के दौरान कथा में गहरी नकली प्रौद्योगिकी की घुसपैठ को रेखांकित किया, मतदाताओं की राय को आकार देने में हेरफेर की गई सामग्री से उत्पन्न संभावित खतरे को उजागर किया और परिणामस्वरूप, चुनावी परिणामों को प्रभावित किया।

गहरे फर्जीवाड़े का भविष्य और चुनावी सत्यनिष्ठा

जैसे-जैसे डीप फेक को सशक्त बनाने वाली तकनीक विकसित होती है, चुनावों को प्रभावित करने में उनके उपयोग की संभावना बढ़ती जाती है। ऐसी सामग्री बनाने और प्रसारित करने में आसानी लोकतांत्रिक प्रक्रियाओं पर इसके प्रभाव के बारे में चिंता पैदा करती है। इस मुद्दे को संबोधित करने के प्रयासों के बावजूद, डीप फेक की गुणवत्ता में तेजी से सुधार उन्हें प्रभावी ढंग से पहचानने और उनका मुकाबला करने में एक महत्वपूर्ण चुनौती पेश करता है।

गहरे फर्जीवाड़े का भूत लोकतांत्रिक प्रक्रिया पर मंडरा रहा है, खासकर वैश्विक स्तर पर महत्वपूर्ण चुनावों के संदर्भ में। एआई-जनित सामग्री का उदय, जो दर्शकों को इसकी प्रामाणिकता पर विश्वास करने के लिए धोखा देने में सक्षम है, चुनाव की अखंडता के लिए एक कठिन चुनौती प्रस्तुत करता है। जैसे-जैसे राष्ट्र नियमों से जूझ रहे हैं और प्लेटफ़ॉर्म सिंथेटिक मीडिया का पता लगाने और उसे हटाने का प्रयास कर रहे हैं, डीप फेक के माध्यम से गलत सूचना से निपटने के लिए सक्रिय उपायों की आवश्यकता तत्काल बनी हुई है। आगामी चुनाव, विशेष रूप से भारत के लोकसभा चुनाव, एआई प्रौद्योगिकी के माध्यम से प्रसारित सामग्री में हेराफेरी के खतरे के खिलाफ लोकतंत्रों के लचीलेपन के परीक्षण के मामले के रूप में खड़े हैं। मतदाता व्यवहार और चुनावी नतीजों पर डीप फेक का प्रभाव दुनिया भर में लोकतांत्रिक प्रक्रियाओं की पवित्रता की रक्षा के लिए इस मुद्दे को व्यापक रूप से संबोधित करने के महत्वपूर्ण महत्व को रेखांकित करता है।

Image Credits: Google Images

Feature image designed by Saudamini Seth

Sources: Economic Times, The Hindu, Financial Times

Originally written in English by: Katyayani Joshi

Translated in Hindi by: Pragya Damani

This post is tagged under: Deep fake, AI Misuse, Narendra Modi, Technology, Privacy Concerns, Social Media, Misinformation, Verification Challenges, political ramifications, Public Awareness, Reputational Damage, Cybersecurity, Media Responsibility, Technological Innovation, Malicious Intent, Penalties, Digital Age, Information Security, elections, lok sabha election, elections 2024, Bangladesh, India

Disclaimer: We do not hold any right, copyright over any of the images used, these have been taken from Google. In case of credits or removal, the owner may kindly mail us.

Other Recommendations:

ED VoxPop: We Ask Gen Z If Ayodhya Ram Temple Matters To Them