प्रधानमंत्री नरेंद्र मोदी द्वारा आर्टिफिशियल इंटेलिजेंस (एआई) के नेतृत्व वाली गलत सूचना से जुड़े जोखिमों को चिह्नित किया जा चुका है। प्रधानमंत्री द्वारा इसे चिन्हित करने के बाद केंद्र की दो बैठकों में सोशल मीडिया कंपनियों के साथ डीपफेक के बढ़ते मुद्दे पर चर्चा की जाएगी। इस कड़ी में 23 नवंबर को सूचना प्रौद्योगिकी (आईटी) मंत्री अश्विनी वैष्णव कंपनियों के साथ एक बैठक की अध्यक्षता करेंगे। इसके एक दिन बाद 24 नवंबर को आईटी राज्य मंत्री राजीव चंद्रशेखर मंचों के साथ इस मुद्दे पर चर्चा करेंगे। जानकारी के मुताबिक इस बैठक के दौरान सरकार से अपेक्षा की जाती है कि वह कंपनियों के साथ एक मानक संचालन प्रक्रिया साझा करेगी कि उन्हें अपने प्लेटफार्मों पर डीपफेक से कैसे निपटना चाहिए। इस बैठक में मेटा और गूगल के अधिकारियों के भाग लेने की उम्मीद है। बता दें कि इससे पहले पिछले शुक्रवार को प्रधानमंत्री नरेंद्र मोदी ने कहा था कि ये समझना जरुरी है कि आर्टिफिशियल इंटेलीजेंस कैसे काम करती है। इसका उपयोग जानबूझकर गलत जानकारी फैलाने या उनके उपयोग के पीछे दुर्भावनापूर्ण इरादे के लिए डीपफेक बनाने के लिए किया जा सकता है।

क्या है डीपफेक
बता दें कि डीपफेक किसी व्यक्ति का एक वीडियो है जिसमें चेहरे या शरीर को डिजिटल रूप से बदल दिया गया है। ऐसे वीडियो में वह कोई और प्रतीत हो, आमतौर पर इसका उपयोग झूठी जानकारी फैलाने के लिए किया जाता है। डीपफेक वीडियो उस समय चर्चा में आया था जब मशहूर अभिनेत्री रश्मिका मंदाना का एक वीडियो सोशल मीडिया पर वायरल हो गया। शुरुआत में माना गया था कि ये रश्मिका ही है मगर बाद में ये डीपफेक वीडियो निकला था। असल में ये वीडियो मूल रूप से ब्रिटिश भारतीय महिला का है, जिसके चेहरे के साथ छेड़छाड़ कर उसकी जगह रश्मिका का चेहरा फिट किया गया था। इतना ही नहीं, इंस्टाग्राम जैसे प्लेटफॉर्म पर राजनीतिक नेताओं के डीपफेक ऑडियो और वीडियो की भी बाढ़ आ गई है।

डीपफेक वीडियो के बढ़ते खतरे को देखते हुए अगले तीन-चार दिनों में सभी मंचों के साथ सरकार बैठक करेगी। इस बैठक के संबंध में अश्विनी वैष्णव ने 18 नवंबर को कहा, हम उस (डीपफेक) पर विचार-मंथन करेंगे और यह सुनिश्चित करेंगे कि प्लेटफॉर्म अपने प्लेटफॉर्म को रोकने, टालने और साफ-सफाई के लिए पर्याप्त प्रयास करें। इस महीने की शुरुआत में, आईटी मंत्रालय ने डीपफेक को हटाने के लिए फेसबुक, इंस्टाग्राम और यूट्यूब सहित सोशल मीडिया प्लेटफार्मों को सलाह भी भेजी थी।

एडवाइजरी में मौजूदा कानूनी प्रावधानों को दोहराया गया था जिनका प्लेटफार्मों को ऑनलाइन मध्यस्थों के रूप में पालन करना होगा। इसमें सूचना प्रौद्योगिकी अधिनियम की धारा 66 डी का उल्लेख किया गया है, जिसमें कंप्यूटर संसाधनों का उपयोग करके धोखाधड़ी करने पर तीन साल तक की कैद और 1 लाख रुपये तक का जुर्माना हो सकता है। एडवाइजरी में सूचना प्रौद्योगिकी नियमों के नियम 3(2)(बी) का भी उल्लेख किया गया है, जिसके तहत सोशल मीडिया प्लेटफार्मों को किसी व्यक्ति की कृत्रिम रूप से रूपांतरित छवियों सहित प्रतिरूपण की प्रकृति वाली सामग्री को हटाना आवश्यक है।