नई दिल्ली। जहां टेक्नोलॉजी दुनिया में तेजी से पांव पसार रही है तो वहीं, इसका मिसयूज भी उतना ही बढ़ता जा रहा है। आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल भी दुनिया के हर कोने में तेजी से बढ़ा है। सोशल मीडिया पर बड़ी संख्या में AI से बने वीडियो और फोटो वायरल हो रहे हैं। कई बार ये वीडियो इतने वास्तविक लगते हैं कि लोग उन्हें सच मान लेते हैं और बिना जांचे-परखे शेयर कर देते हैं। यही वजह है कि AI-generated कंटेंट अब चिंता का बड़ा कारण बनता जा रहा है।
इस बीच अब AI से वीडियो या फोटो बनाना लोगों के लिए भारी भी पड़ सकता है। केंद्र सरकार ने AI-generated और डीपफेक कंटेंट को लेकर सख्ती बढ़ा दी है। सरकार का कहना है कि AI का दुरुपयोग न सिर्फ गलत सूचना फैलाता है, बल्कि इससे किसी की छवि, सुरक्षा और सामाजिक सौहार्द को भी नुकसान पहुंच सकता है। इसी को देखते हुए केंद्र सरकार ने AI कंटेंट और उसके दुरुपयोग को रोकने के लिए नई गाइडलाइंस जारी की हैं।
केंद्र सरकार ने AI-generated और डीपफेक कंटेंट पर लगाम लगाने के लिए नए दिशानिर्देश जारी किए हैं। ये नियम 10 फरवरी को अधिसूचित किए गए हैं और 20 फरवरी से देशभर में लागू होंगे। इसके लिए सूचना प्रौद्योगिकी (मध्यस्थ दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में संशोधन किया गया है। पहली बार AI से बनाए गए या बदले गए कंटेंट को औपचारिक रूप से भारत के डिजिटल कानूनों के दायरे में लाया गया है।
नए IT नियमों के तहत सोशल मीडिया प्लेटफॉर्म्स की जिम्मेदारी बढ़ा दी गई है। यदि कोई AI-generated, डीपफेक या भ्रामक कंटेंट आपत्तिजनक पाया जाता है, तो प्लेटफॉर्म्स को उसे तीन घंटे के भीतर हटाना होगा। इसके अलावा, AI से बने कंटेंट को स्पष्ट रूप से लेबल करना अब अनिवार्य होगा। नियमों के मुताबिक, प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि AI-generated या AI-modified कंटेंट पर साफ और प्रमुख तरीके से लेबल लगा हो। साथ ही, यूजर्स की भी जिम्मेदारी तय की गई है। जो यूजर ऐसा कंटेंट अपलोड करेगा, उसे यह बताना होगा कि वह कंटेंट AI से बनाया गया है या AI की मदद से बदला गया है।
नए नियमों के अनुसार, AI से बनाए गए या बदले गए कंटेंट पर साफ और बड़े अक्षरों में लेबल लगाना जरूरी होगा। सरकार ने सोशल मीडिया प्लेटफॉर्म्स और उन सभी डिजिटल सेवाओं को निर्देश दिए हैं, जो AI कंटेंट बनाती या उसे फैलाती हैं। इसके साथ ही प्लेटफॉर्म्स को यह भी सुनिश्चित करना होगा कि ऐसे कंटेंट में metadata या technical provenance markers जैसे यूनिक आइडेंटिफायर जोड़े जाएं। इससे यह पता चल सकेगा कि कंटेंट कहां बना, किस सिस्टम से जनरेट हुआ और किस माध्यम से आगे फैलाया गया।
नए IT नियमों के तहत AI-generated और डीपफेक कंटेंट से जुड़े कई गंभीर मामलों को अब सीधे अपराध की श्रेणी में रखा गया है। बच्चों के खिलाफ यौन शोषण से जुड़ा कंटेंट (CSAM), अश्लील सामग्री, फर्जी इलेक्ट्रॉनिक रिकॉर्ड, विस्फोटक पदार्थों से संबंधित सामग्री और ऐसे डीपफेक, जिनमें किसी असली व्यक्ति की पहचान, चेहरा या आवाज को गलत तरीके से पेश किया गया होइन सभी पर सख्त कार्रवाई की जाएगी।
