डीपफेक सिंथेटिक मीडिया हैं जो दृश्य और श्रव्य सामग्री में हेरफेर करने या उत्पन्न करने के लिए आर्टिफिशियल इंटेलिजेंस (एआई) का उपयोग करते हैं। इन्हें आमतौर पर किसी को धोखा देने या गुमराह करने के इरादे से हेरफेर किया जाता है ।
डीपफेक तकनीक भारत में चुनावों की अखंडता के लिए कैसे खतरा पैदा करती है?
जेनेरेटिव एडवरसैरियल नेटवर्क (जीएएन) का उद्भव - यह जेनेरेटिव एआई का एक प्रकार है जो वास्तविक समय के आधार पर डीपफेक की तीव्र पीढ़ी की सुविधा प्रदान करता है। इसकी आसान पहुंच के कारण , इससे बड़ी संख्या में डीपफेक खातों का निर्माण हो सकता है जो प्रत्येक निर्वाचन क्षेत्र में तथ्यात्मक जानकारी को दबा सकते हैं। भारतीय प्रधान मंत्री के पूर्व-डीपफेक वीडियो के लिए ।
सोशल मीडिया का हथियारीकरण - डीपफेक वीडियो सोशल मीडिया प्लेटफॉर्म पर अधिक गलत सूचना फैलाकर भावनाएं पैदा करते हैं और पुष्टिकरण पूर्वाग्रह को बढ़ा-चढ़ाकर पेश करते हैं।
बाहरी चुनाव हस्तक्षेप- डिजिटल व्यवसाय राजनेताओं और विदेशी शक्तियों के लिए संदर्भ-विशिष्ट नकली वीडियो बना सकते हैं । इन फर्जी वीडियो का शत्रु विदेशी देशों द्वारा भारतीय चुनावों की अखंडता को खतरे में डालने के लिए दुरुपयोग किया जा सकता है।
डीपफेक के सामाजिक प्रभाव क्या हैं?
प्रौद्योगिकी को अपनाने के लिए विश्वास आवश्यक है क्योंकि यह सुनिश्चित करता है कि उपयोगकर्ता नए नवाचारों का उपयोग करने में सुरक्षित और आत्मविश्वास महसूस करें।
डीपफेक विश्वसनीय नकली सामग्री बनाकर विश्वास को खत्म कर देते हैं जो सोशल मीडिया पर तेजी से फैलती है, जिससे गंभीर नुकसान होता है।
महिलाएं और बच्चे अक्सर डीपफेक का निशाना बनते हैं और उन्हें गंभीर मनोवैज्ञानिक संकट का सामना करना पड़ता है।
डीपफेक सबूतों में हेरफेर कर सकते हैं, न्यायपालिका को धमकी दे सकते हैं और गलत सजा दिला सकते हैं।
वे भारत में सेवाओं के लिए महत्वपूर्ण चेहरे की पहचान जैसी उपयोगकर्ता-सत्यापन विधियों को कमजोर करते हैं।
डीपफेक गलत सूचना फैलाते हैं, जिससे लोकतांत्रिक प्रक्रियाएं प्रभावित होती हैं। विश्व आर्थिक मंच की 2024 जोखिम रिपोर्ट गलत सूचना को एक महत्वपूर्ण वैश्विक जोखिम के रूप में उजागर करती है।
भारत में डीपफेक से संबंधित कानूनी चुनौतियाँ क्या हैं?
आईटी अधिनियम की धारा 66डी, 66ई, 67, 67ए, और 67बी प्रतिरूपण और अश्लील सामग्री को दंडित करती है लेकिन डीपफेक को पूरी तरह से संबोधित नहीं करती है।
डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम अधिक प्रभावी हो सकता है यदि इसमें "नुकसान" की परिभाषा में प्रतिष्ठित हानि शामिल हो।
डेटा विश्वासियों को डेटा उल्लंघनों के बारे में व्यक्तियों को सूचित करना आवश्यक है, लेकिन निजी-मीडिया डाउनलोड को अक्षम करने जैसे सख्त उपायों की आवश्यकता है।
2021 आईटी दिशानिर्देशों का नियम 4(2) सोशल मीडिया को हानिकारक सामग्री के प्रवर्तकों की पहचान करने के लिए बाध्य करता है, लेकिन व्हाट्सएप और मेटा जैसे प्लेटफॉर्म गोपनीयता संबंधी चिंताओं का हवाला देते हुए इसका विरोध करते हैं।
अनिल कपूर बनाम सिंपली लाइफ इंडिया मामला डीपफेक द्वारा गोपनीयता और प्रचार अधिकारों के उल्लंघन पर प्रकाश डालता है।
क्या किया जाए?
सोशल मीडिया प्लेटफार्मों को डीपफेक सामग्री के प्रसार को सीमित करना चाहिए और गलत सूचना फैलाने वाले बॉट्स पर नकेल कसनी चाहिए।
टेक डेवलपर्स को कृत्रिम सामग्री की पहचान करने के लिए लगातार लेबलिंग सुविधाओं को शामिल करना चाहिए, जैसा कि केंद्रीय आईटी मंत्रालय की सलाह में सुझाव दिया गया है।
जवाबदेही स्थापित करने के लिए सामग्री निर्माण के लिए अनिवार्य उपयोगकर्ता सत्यापन लागू करें।
डीपफेक पीड़ितों के लिए स्पष्ट कानूनी रास्ते और मनोवैज्ञानिक सहायता प्रदान करें।
प्रस्तावित यूके कानून की तरह, गैर-सहमति वाले डीपफेक के निर्माण को अपराध घोषित करें।
मीडिया साक्षरता प्रयासों में निवेश करें और जिम्मेदार डिजिटल नागरिकता को बढ़ावा दें ताकि व्यक्तियों को ऑनलाइन सामग्री का गंभीर मूल्यांकन करने और डीपफेक की पहचान करने में मदद मिल सके।
