रश्मिका मंदाना डीपफेक(Deepfake) वीडियो मामले में मुख्य आरोपी गिरफ्तार
IFSO यूनिट के डीसीपी हेमंत तिवारी ने कहा कि अभिनेत्री रश्मिका मंदाना की डीप फेक(Deepfake) प्रोफाइल के मामले में मुख्य आरोपी को शुक्रवार को गिरफ्तार कर लिया गया। दिल्ली पुलिस इस मामले की जांच कर रही है – जिसमें अभिनेत्री का डिजिटल रूप से परिवर्तित वीडियो अपलोड किया गया था और ऑनलाइन साझा किया गया था – सबसे पहले उन्हें बिहार ले जाया गया, जहां एक व्यक्ति को हिरासत में लिया गया और उसके डिवाइस को विशेष सेल की साइबर इकाई ने जब्त कर लिया। बाद में, तकनीकी निगरानी की मदद से, पुलिस ने छत्तीसगढ़ में दो व्यक्तियों पर ध्यान केंद्रित किया, जो कथित तौर पर मामले से जुड़े थे।
दिल्ली पुलिस ने कहा कि अभिनेत्री रश्मिका मंदाना के डीपफेक वीडियो के लिए जिम्मेदार व्यक्ति को आज गिरफ्तार कर लिया गया। यह वीडियो पिछले साल नवंबर में सोशल मीडिया पर वायरल हो गया, जिसके बाद सोशल मीडिया प्लेटफॉर्म पर नियमों की व्यापक मांग उठी।
विचाराधीन डीपफेक वीडियो में शुरू में ब्रिटिश-भारतीय प्रभावशाली ज़ारा पटेल को काले रंग की पोशाक में लिफ्ट में प्रवेश करते हुए दिखाया गया था। हालाँकि, डीपफेक तकनीक के उपयोग के माध्यम से, सुश्री पटेल का चेहरा मूल रूप से सुश्री मंदाना के रूप में बदल गया।
अपनी निराशा व्यक्त करते हुए, सुश्री मंदाना ने इस घटना को “बेहद डरावना” बताया और प्रौद्योगिकी के दुरुपयोग के कारण व्यक्तियों को सामना करने वाली कमजोरियों पर प्रकाश डाला। घटना के बाद उन्होंने टिप्पणी की, “ईमानदारी से कहूं तो, ऐसा कुछ न केवल मेरे लिए बल्कि हममें से हर किसी के लिए बेहद डरावना है, जो आज प्रौद्योगिकी के दुरुपयोग के कारण बहुत अधिक नुकसान की चपेट में है।”
वायरल डीपफेक वीडियो के बाद केंद्र को सोशल मीडिया प्लेटफार्मों के लिए एक सलाह जारी करने के लिए प्रेरित किया गया, जिसमें डीपफेक को कवर करने वाले कानूनी प्रावधानों और उनके निर्माण और प्रसार से जुड़े संभावित दंडों पर जोर दिया गया।केंद्रीय मंत्री राजीव चंद्रशेखर ने गलत सूचना और डीपफेक से निपटने में उनके द्वारा की गई प्रगति की समीक्षा करने के लिए दिसंबर में सोशल मीडिया प्लेटफार्मों से मुलाकात की और कहा कि प्लेटफार्मों द्वारा 100 प्रतिशत अनुपालन सुनिश्चित करने के लिए अगले दो दिनों में सलाह जारी की जाएगी।
डीपफेक(Deepfake) क्या है और आप इसे कैसे पहचान सकते हैं
Deepfake एक प्रकार का सिंथेटिक मीडिया है जो प्रामाणिक दिखने के लिए अक्सर दुर्भावनापूर्ण उद्देश्य से दृश्य और श्रव्य सामग्री में हेरफेर करने या उत्पन्न करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करता है।एमआईटी के अनुसार, “डीपफेक” शब्द पहली बार 2017 के अंत में सामने आया जब इसी नाम के एक रेडिट उपयोगकर्ता ने ओपन-सोर्स फेस-स्वैपिंग तकनीक का उपयोग करके उत्पन्न अश्लील वीडियो साझा करने के लिए ऑनलाइन समाचार और एकत्रीकरण साइट पर एक मंच बनाया। डीपफेक नकली घटनाओं की छवियां या वीडियो बनाने के लिए एआई के एक रूप का उपयोग करता है जिसे डीप लर्निंग कहा जाता है।
डीपफेक, वास्तविक और मनगढ़ंत मीडिया का एक शक्तिशाली मिश्रण, सार्वजनिक विश्वास और सच्चाई के लिए एक भयानक खतरा बनकर उभरा है। लोगों के ऐसे ठोस वीडियो और ऑडियो रिकॉर्डिंग बनाकर, जो उन्होंने कभी नहीं कहा या किया, डीपफेक सार्वजनिक धारणा में हेरफेर कर सकते हैं, गलत सूचना फैला सकते हैं और प्रतिष्ठा धूमिल कर सकते हैं।
साइबर अपराधियों के हाथों में, डीपफेक खतरनाक हथियार बन जाते हैं जो व्यवसायों और सरकारों को बाधित और नष्ट कर सकते हैं। किसी कंपनी के शीर्ष अधिकारी या शीर्ष राजनेता का मनगढ़ंत वीडियो किसी कंपनी या देश की प्रतिष्ठा पर गंभीर असर डाल सकता है।
पिछले कुछ वर्षों में, हमने डीपफेक वीडियो के ऐसे कई उदाहरण देखे हैं जो सोशल मीडिया पर वायरल हुए। हाल ही में, अभिनेत्री रश्मिका मनाना एक वायरल डीपफेक वीडियो का शिकार हुईं, जिससे प्रौद्योगिकी के दुरुपयोग पर गंभीर चिंताएं पैदा हुईं, जिसके परिणामस्वरूप भारत सरकार को इस खतरे से निपटने के लिए योजना बनानी पड़ी।
डीपफेक उत्पन्न करने में अक्सर गहरे तंत्रिका नेटवर्क और फेस-स्वैपिंग तकनीक का उपयोग शामिल होता है। एक लक्षित वीडियो डीपफेक के आधार के रूप में कार्य करता है, जबकि वांछित व्यक्ति को प्रदर्शित करने वाले वीडियो क्लिप का एक संग्रह एकत्र किया जाता है।कृत्रिम बुद्धिमत्ता की तेजी से वृद्धि ने डीपफेक पोर्नोग्राफ़ी में भी चिंताजनक वृद्धि को जन्म दिया है, जहाँ न्यूनतम प्रयास और व्यय के साथ अतियथार्थवादी चित्र और वीडियो तैयार किए जा सकते हैं।
केंद्र ने आज लोकतांत्रिक प्रक्रियाओं के लिए deepfake के उभरते खतरे पर प्रकाश डाला और घोषणा की कि सरकार इस चुनौती से निपटने के लिए नए नियम तैयार कर रही है।आईटी मंत्री अश्विनी वैष्णव ने पुष्टि की कि सोशल मीडिया प्लेटफार्मों ने डीपफेक का पता लगाने, रोकथाम, उन्नत रिपोर्टिंग तंत्र और उपयोगकर्ता शिक्षा जैसे क्षेत्रों में ठोस और प्रभावी उपायों की आवश्यकता को स्वीकार किया है।
डीपफेक(Deepfake) को कैसे पहचानें
MIT का कहना है कि डीपफेक(Deepfake) के खिलाफ पूर्ण सुरक्षा सुनिश्चित करने के लिए कोई फुलप्रूफ तरीका नहीं होने के बावजूद, कुछ ऐसे संकेतक हैं जो आपके द्वारा ऑनलाइन देखी जाने वाली सामग्री की वास्तविकता निर्धारित करने में सहायता कर सकते हैं।व्यापक रूप से प्रसारित रश्मिका मंदाना डीपफेक वीडियो में, कई दर्शकों ने इस तथ्य को नजरअंदाज कर दिया कि शुरुआत में व्यक्ति का चेहरा अलग था। सुश्री मंदाना का चेहरा ज़ारा पटेल के शरीर पर लगाया गया था – एक ब्रिटिश मॉडल और भारतीय मूल की प्रभावशाली व्यक्ति और वीडियो की मूल निर्माता।
सुश्री मंदाना के चेहरे के साथ डीपफेक तभी प्रकट हुआ जब व्यक्ति पूरी तरह से फ्रेम में प्रवेश कर गया।डीपफेक में, किसी व्यक्ति के होठों की हरकत या पलकें अच्छी तरह से संरेखित नहीं हो सकती हैं। यह विसंगति व्यक्ति की आंख और मुंह की गतिविधियों को सटीक रूप से ट्रैक करने में एआई एल्गोरिदम की संभावित अक्षमता से उत्पन्न होती है। हालाँकि, आज हमारे पास उपलब्ध उन्नत तकनीकी उपकरणों को देखते हुए लगातार बेहतर हो रहे एआई के कारण यह पता लगाना कठिन हो गया है कि क्या नकली है या क्या असली है।
डीपफेक सामग्री के लिए साझा जिम्मेदारी को रेखांकित करते हुए, आईटी मंत्री श्री वैष्णव ने संकेत दिया कि निर्माता और होस्टिंग प्लेटफॉर्म दोनों संभावित दंड के अधीन होंगे। सरकार दोनों पक्षों को जवाबदेह बनाने के उपाय तलाश रही है।