सोशल मीडिया पर कई बार ऐसे वीडियो और फोटो वायरल हो जाते हैं, जिन्हें लोग बिना जांचे सच मान लेते हैं। बाद में पता चलता है कि ये वीडियो असली नहीं, बल्कि AI से बनाए गए डीपफेक होते हैं। इसी तरह की बढ़ती घटनाओं को देखते हुए अब केंद्र सरकार ने सख्त कदम उठाया है।
पिछले कुछ समय में डीपफेक वीडियो और AI से बनी तस्वीरों की संख्या तेजी से बढ़ी है। इससे चुनाव, समाज और लोगों की निजी छवि को नुकसान पहुंचा है। इसी खतरे को देखते हुए इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने IT नियमों के तहत नए निर्देश जारी किए हैं।
सरकार ने साफ कहा है कि AI से बने हर फोटो और वीडियो पर स्पष्ट लेबल लगाना होगा। यूजर को बताना पड़ेगा कि कंटेंट असली है या AI से बनाया गया है, ताकि लोग भ्रमित न हों।
नए नियमों के अनुसार, अगर किसी डीपफेक या भ्रामक AI कंटेंट की शिकायत मिलती है, तो सोशल मीडिया प्लेटफॉर्म को 3 घंटे के भीतर उसे हटाना होगा। पहले यह समय सीमा 36 घंटे थी, जिसे अब काफी कम कर दिया गया है।
अगर तय समय में कंटेंट नहीं हटाया गया, तो प्लेटफॉर्म पर जुर्माना और कानूनी कार्रवाई हो सकती है। बार-बार नियम तोड़ने पर प्लेटफॉर्म की ‘सेफ हार्बर’ सुरक्षा भी खत्म की जा सकती है, जिससे कंपनी सीधे कानूनी मामलों में फंस सकती है।
बिना लेबल के AI कंटेंट पोस्ट करना अब अपराध माना जाएगा। नियमों के अनुसार कंटेंट का कम से कम 10 प्रतिशत हिस्सा वॉटरमार्क या लेबल से साफ तौर पर दिखना चाहिए। यूजर को पोस्ट करते समय यह भी बताना होगा कि कंटेंट AI से बना है या नहीं।
बच्चों से जुड़ा अश्लील कंटेंट, बिना अनुमति निजी फोटो-वीडियो, फर्जी दस्तावेज और हिंसा भड़काने वाले AI कंटेंट पर तुरंत कार्रवाई होगी। ऐसे मामलों में किसी भी तरह की देरी बर्दाश्त नहीं की जाएगी।
अगर किसी को डीपफेक या भ्रामक AI कंटेंट दिखे, तो वह उसी सोशल मीडिया प्लेटफॉर्म के रिपोर्टिंग सिस्टम या ग्रिवेंस ऑफिसर से शिकायत कर सकता है। इसके अलावा cybercrime.gov.in पर भी शिकायत दर्ज कराई जा सकती है। गंभीर मामलों में पुलिस या साइबर सेल से संपर्क किया जा सकता है।
