कृत्रिम बुद्धिमत्ता (एआई) और डीपफेक वीडियो पर विनियमन का आह्वान वास्तव में कोई खबर नहीं है। लोग डेटा आक्रमण, अवैध रूप से प्रतिरूपित किए जा रहे लोगों और विशेष रूप से डीपफेक वीडियो और एआई की ज्यादातर अनियमित दुनिया के माध्यम से चिंताएं और सवाल उठा रहे हैं जो लोगों की सहमति के बिना स्वतंत्र रूप से डेटा खनन कर रहा है।
डीपफेक एक प्रकार के सिंथेटिक मीडिया का नाम है जहां किसी छवि या वीडियो में मौजूदा व्यक्ति को एआई का उपयोग करके किसी और की समानता से बदल दिया जाता है।
डीपफेक उन मीडिया सामग्री के वीडियो और यहां तक कि ऑडियो में हेरफेर करने के लिए मशीन लर्निंग और एआई से बेहद शक्तिशाली तकनीकों का उपयोग करते हैं और वे लोगों को यह सोचने में सफलतापूर्वक धोखा दे सकते हैं कि कुछ सच है जबकि यह सच नहीं है।
अभिनेत्री रश्मिका मंदाना के साथ हुई हालिया घटना ने फिर से इस मुद्दे पर प्रकाश डाला है और बताया है कि अब इससे निपटने का समय आ गया है।
अमिताभ बच्चन ने क्या कहा?
अमिताभ बच्चन उन लोगों में से हैं जिन्होंने अभिनेत्री रश्मिका मंदाना के वायरल हो रहे डीपफेक वीडियो पर सवाल उठाया है और बताया है कि इसके और इसे बनाने वाले लोगों के खिलाफ उचित कार्रवाई कैसे की जानी चाहिए। उन्होंने वायरल ट्वीट के बारे में बात करते हुए एक ट्वीट पर टिप्पणी की और इसे कैप्शन दिया, “हां, यह कानूनी तौर पर एक मजबूत मामला है।”
टिप्पणियों में कई लोगों ने इस बारे में बात की कि यह वास्तव में देखने में कितना डरावना है और यह कैसे गोपनीयता के हनन और फर्जी समाचार या गलत सूचना के लिए कुछ खतरनाक दरवाजे खोल सकता है।
एक व्यक्ति ने लिखा, “अनुचित वीडियो बनाने के लिए डीपफेक तकनीक का उपयोग बेहद चिंताजनक है और यह गोपनीयता और सहमति का उल्लंघन है। ऐसे मामलों में कानूनी कार्रवाई जरूर होनी चाहिए.
इन वीडियो को बनाने और वितरित करने के लिए जिम्मेदार व्यक्तियों को कानून के तहत जवाबदेह ठहराया जाना चाहिए। साइबर कानून अक्सर डिजिटल प्रतिरूपण और छवियों के दुरुपयोग के ऐसे कृत्यों को कवर करते हैं, और कानूनी अधिकारियों के साथ जुड़ना यह सुनिश्चित करने के लिए एक आवश्यक कदम है कि प्रभावित व्यक्तियों के अधिकारों की रक्षा की जाए और न्याय दिया जाए।
एक अन्य ने लिखा, “मुख्य बात यह है कि हर किसी को डर है कि इस प्रकार की तकनीक का उपयोग घोटालेबाजों और अपराधियों द्वारा किया जा सकता है।”
Read More: How Is The Rise Of Deepfakes A Threat To Democracy?
क्या है ये वायरल वीडियो?
श्री बच्चन की टिप्पणियाँ अभिनेता रश्मिका मंदाना के वायरल हो रहे डीपफेक वीडियो के संबंध में हैं, जिसे अब तक 2.4 मिलियन से अधिक बार देखा जा चुका है।
ऑल्ट न्यूज़ के पत्रकार अभिषेक कुमार ने एक्स/ट्विटर पर एक थ्रेड पोस्ट किया जिसमें बताया गया कि जिस वीडियो में कथित तौर पर अभिनेत्री रश्मिका मंदाना दिखाई दे रही थीं, वह वास्तव में उनकी नहीं थीं। उन्होंने लिखा “आपने इंस्टाग्राम पर एक्ट्रेस रश्मिका मंदाना का ये वायरल वीडियो देखा होगा.
लेकिन रुकिए, यह ज़ारा पटेल का एक डीपफेक वीडियो है। मूल वीडियो ब्रिटिश-भारतीय लड़की ज़ारा पटेल का है, जिसके इंस्टाग्राम पर 415K फॉलोअर्स हैं। उन्होंने यह वीडियो 9 अक्टूबर को इंस्टाग्राम पर अपलोड किया था।”
🚨 There is an urgent need for a legal and regulatory framework to deal with deepfake in India.
You might have seen this viral video of actress Rashmika Mandanna on Instagram. But wait, this is a deepfake video of Zara Patel.
This thread contains the actual video. (1/3) pic.twitter.com/SidP1Xa4sT
— Abhishek (@AbhishekSay) November 5, 2023
उन्होंने आगे बताया कि लोग कैसे सत्यापित कर सकते हैं कि यह एक डीपफेक लेखन है “एक डीपफेक पीओवी से, वायरल वीडियो आम सोशल मीडिया उपयोगकर्ताओं के लिए इसके जाल में फंसने के लिए काफी उपयुक्त है। लेकिन अगर आप वीडियो को ध्यान से देखेंगे, तो आप (0:01) पर देख सकते हैं कि जब रश्मिका (डीपफेक) लिफ्ट में प्रवेश कर रही थी, तो अचानक उसका चेहरा दूसरी लड़की से बदलकर रश्मिका हो जाता है।
उन्होंने यह भी पूछा, “भारत में डीपफेक से निपटने के लिए एक कानूनी और नियामक ढांचे की तत्काल आवश्यकता है।”
रिपोर्ट्स में दावा किया गया है कि जिस महिला का मूल वीडियो डीपफेक के लिए इस्तेमाल किया गया था, वह इसमें शामिल नहीं है और यह स्पष्ट नहीं है कि इस फर्जी वीडियो का वास्तविक निर्माता कौन है और किस कारण से है।
मंदाना ने एक सोशल मीडिया पोस्ट में वीडियो के बारे में भी बात करते हुए लिखा, “मुझे इसे साझा करते हुए वास्तव में दुख हो रहा है और मुझे ऑनलाइन फैलाए जा रहे मेरे डीपफेक वीडियो के बारे में बात करनी है। ऐसा कुछ ईमानदारी से न केवल मेरे लिए बल्कि हममें से हर किसी के लिए बेहद डरावना है, जो आज प्रौद्योगिकी के दुरुपयोग के कारण बहुत अधिक नुकसान की चपेट में है।
आज एक महिला और एक अभिनेता के रूप में, मैं अपने परिवार, दोस्तों और शुभचिंतकों की आभारी हूं जो मेरी सुरक्षा और सहायता प्रणाली हैं। लेकिन अगर मेरे साथ ऐसा तब होता जब मैं स्कूल या कॉलेज में था, तो मैं सचमुच सोच भी नहीं सकता कि मैं इससे कैसे निपट सकता था।
इससे पहले कि हममें से अधिक लोग ऐसी पहचान से प्रभावित हों, हमें एक समुदाय के रूप में और तत्परता से इस पर ध्यान देने की आवश्यकता है।
डीपफेक को पहचानने का एक तरीका अप्राकृतिक चेहरे की हरकतों या भावों जैसे गड़बड़ियां, कड़ी या झटकेदार हरकतें, धुंधली या फोकसहीन आंखें, या कोई भी विशेषता जो स्वाभाविक रूप से चलती नहीं लगती है, को देखना है।
Image Credits: Google Images
Feature image designed by Saudamini Seth
Sources: The Indian Express, Hindustan Times, India Today
Originally written in English by: Chirali Sharma
Translated in Hindi by: Pragya Damani
This post is tagged under: Amitabh Bachchan Rashmika Mandanna Viral Deepfake Video, Amitabh Bachchan, Rashmika Mandanna Viral Deepfake Video, Rashmika Mandanna Viral Deepfake Video, Rashmika Mandanna recent video, Rashmika Mandanna video, Rashmika Mandanna deepfake, deepfake actors, deepfake, deepfake video viral, deepfake bollywood
Disclaimer: We do not hold any right, copyright over any of the images used, these have been taken from Google. In case of credits or removal, the owner may kindly mail us.
Other Recommendations:
WHY IS RAPPER BADSHAH BEING QUESTIONED BY MAHARASHTRA CYBER POLICE?
