X ने मान ली कंटेंट मॉडरेशन में चूक :भारत में 600 अकाउंट डिलीट, 3500 से ज्यादा पोस्ट ब्लॉक

नई दिल्ली। एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने भारत में अश्लील और आपत्तिजनक कंटेंट को लेकर अपनी चूक स्वीकार कर ली है। केंद्र सरकार की सख्ती के बाद X ने न सिर्फ भारत के कानूनों का पालन करने का भरोसा दिया है, बल्कि बड़े पैमाने पर कार्रवाई करते हुए 600 से ज्यादा अकाउंट डिलीट और 3,500 से अधिक पोस्ट ब्लॉक कर दी हैं। यह कदम AI चैटबॉट Grok के जरिए महिलाओं और बच्चों की तस्वीरों के दुरुपयोग के गंभीर आरोपों के बाद उठाया गया है।

सरकार की चेतावनी के बाद X का एक्शन

जानकारी के मुताबिक, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X प्लेटफॉर्म पर वायरल हो रहे अश्लील कंटेंट को लेकर कड़ा रुख अपनाया था। मंत्रालय ने स्पष्ट चेतावनी दी थी कि, अगर तय समयसीमा के भीतर आपत्तिजनक कंटेंट नहीं हटाया गया, तो कंपनी को कानूनी कार्रवाई का सामना करना पड़ सकता है। सरकार की इस चेतावनी के करीब एक हफ्ते बाद X ने कार्रवाई करते हुए सैकड़ों अकाउंट हटाए और हजारों पोस्ट ब्लॉक कर दीं।

X ने कहा- भारत हमारे लिए अहम बाजार

X ने सरकार को दी गई जानकारी में कहा है कि, भारत उसके लिए एक बड़ा और महत्वपूर्ण बाजार है। कंपनी ने भरोसा दिलाया कि वह भारतीय कानूनों और आईटी नियमों का पूरा पालन करेगी। X के अनुसार, आगे से प्लेटफॉर्म पर अश्लील तस्वीरें और आपत्तिजनक कंटेंट बिल्कुल भी बर्दाश्त नहीं किया जाएगा और कंटेंट मॉडरेशन को और सख्त किया जाएगा।

Grok AI को लेकर क्यों बढ़ा विवाद

हाल के दिनों में X के AI चैटबॉट Grok को लेकर भारी विवाद सामने आया। आरोप लगे कि कुछ यूजर्स Grok का इस्तेमाल करके महिलाओं और नाबालिगों की तस्वीरों को अश्लील और आपत्तिजनक रूप में बदल रहे थे।

फर्जी अकाउंट्स के जरिए महिलाओं की सामान्य तस्वीरें पोस्ट की जाती थीं और फिर AI को कपड़े बदलने, तस्वीरों को यौन रूप से उत्तेजक बनाने जैसे प्रॉम्प्ट दिए जाते थे। इन मामलों में न तो महिलाओं की अनुमति ली गई और न ही कई बार उन्हें इस दुरुपयोग की जानकारी थी।

प्रियंका चतुर्वेदी ने उठाया था मुद्दा

शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने 2 जनवरी को इस मामले को गंभीरता से उठाते हुए आईटी मंत्री अश्विनी वैष्णव को पत्र लिखा था। उन्होंने कहा था कि X पर Grok AI का इस्तेमाल महिलाओं की गरिमा और निजता के खिलाफ हो रहा है, जो न सिर्फ अनैतिक बल्कि अपराध की श्रेणी में आता है। इसके बाद सरकार ने उसी दिन X को निर्देश दिया था कि वह AI के जरिए बनाए जा रहे अश्लील कंटेंट को तुरंत हटाए।

प्रियंका का आरोप- रोकने की जगह सीमित किया फीचर

हालांकि, बाद में प्रियंका चतुर्वेदी ने X पर एक पोस्ट कर आरोप लगाया कि प्लेटफॉर्म ने अश्लील इमेज जेनरेशन को पूरी तरह बंद करने के बजाय केवल पेड यूजर्स तक सीमित कर दिया है। उनका कहना है कि, इससे महिलाओं और बच्चों की तस्वीरों के दुरुपयोग का खतरा बना हुआ है और X इस निंदनीय व्यवहार को अप्रत्यक्ष रूप से मॉनिटाइज कर रहा है, जो बेहद शर्मनाक है।

मस्क बोले- किसी टूल को दोष देना गलत

इस विवाद पर X के मालिक एलन मस्क ने 3 जनवरी को प्रतिक्रिया दी थी। उन्होंने कहा था कि, किसी टूल को दोष देना गलत है। मस्क के मुताबिक, Grok को दोष देना ऐसा है जैसे किसी गलत लिखे शब्द के लिए कलम को जिम्मेदार ठहराना। टूल क्या करेगा, यह इस बात पर निर्भर करता है कि यूजर उसमें क्या इनपुट देता है। जिम्मेदारी टूल की नहीं, बल्कि उसे इस्तेमाल करने वाले व्यक्ति की होती है।

IT एक्ट और नियम 2021 के तहत X की जिम्मेदारी

भारत के आईटी एक्ट और आईटी रूल्स 2021 के तहत सोशल मीडिया प्लेटफॉर्म्स की स्पष्ट जिम्मेदारियां तय हैं, जिनमें शामिल हैं:

• यूजर की शिकायत पर 24 घंटे में आपत्तिजनक कंटेंट हटाना।
• अन्य मामलों में 72 घंटे के भीतर कार्रवाई।
• महिला से जुड़ा AI या डीपफेक कंटेंट तुरंत हटाना।
• डीपफेक दोबारा अपलोड होने से रोकना।
• फर्जी अकाउंट्स की पहचान कर उन्हें सस्पेंड करना।
• AI से बने गलत और भ्रामक कंटेंट पर प्रभावी रोक लगाना।

यह भी पढ़ें: बर्थमार्क का रहस्य…! क्या ये किसी बीमारी का है संकेत? डरें नहीं, जानिए असली वजह