आजकल सोशल मीडिया पर वायरल होने वाले वीडियो और फोटो पर आंख बंद करके भरोसा करना मुश्किल हो गया है। कभी किसी नेता का नकली बयान, तो कभी किसी आम व्यक्ति का डीपफेक वीडियो तेजी से फैल जाता है। AI टूल्स ने कंटेंट बनाना आसान किया है, लेकिन इससे झूठ और धोखे का खतरा भी बढ़ गया है।
कई बार यूजर को पता ही नहीं चलता कि जो वीडियो या फोटो वह देख रहा है, वह असली है या मशीन से बनाया गया। इसी भ्रम को खत्म करने और फर्जी कंटेंट पर लगाम लगाने के लिए भारत सरकार ने AI से बने कंटेंट को लेकर नए नियम लागू किए हैं।
सरकार का मकसद साफ है डीपफेक और भ्रामक कंटेंट को रोका जाए। सोशल मीडिया प्लेटफॉर्म और यूजर दोनों की जिम्मेदारी तय हो। इंटरनेट पर फैल रहे नकली वीडियो और फोटो पर ब्रेक लगाया जाए।
नए नियमों के मुताबिक, कोई भी AI जनरेटेड फोटो या वीडियो हो, तो उसके कम से कम 10% हिस्से में लेबल दिखना जरूरी होगा। ऑडियो और वीडियो क्लिप में भी 10% हिस्सा AI पहचान के लिए होगा ताकि यूजर को साफ पता चल सके कि कंटेंट AI से बना है।
अब सोशल मीडिया प्लेटफॉर्म्स को हर यूजर से यह पूछना होगा कि अपलोड किया गया कंटेंट सिंथेटिक (AI से बना) है या नहीं। इसके लिए वेरिफिकेशन टूल्स का इस्तेमाल करना होगा। हर तीन महीने में नियम तोड़ने पर पेनाल्टी की चेतावनी भी देनी होगी।
ऐसा कंटेंट बिना इंतजार किए सीधे हटाया जाएगा।
अगर सोशल मीडिया कंपनियां इन नियमों का पालन नहीं करतीं, तो उनकी कानूनी सुरक्षा खत्म हो सकती है। अब सिर्फ यूजर नहीं, प्लेटफॉर्म भी जवाबदेह होगा।
