नई दिल्ली। सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने अपने AI चैटबोट Grok के जरिए बनाए जा रहे अश्लील और आपत्तिजनक कंटेंट पर बड़ी कार्रवाई की है। भारत सरकार की सख्त आपत्ति और नोटिस के बाद कंपनी ने नए नियम लागू कर दिए हैं। कंपनी ने साफ कर दिया है कि, Grok से अवैध कंटेंट बनाने वाले यूजर्स का अकाउंट हमेशा के लिए बंद कर दिया जाएगा।
X ने स्पष्ट किया है कि, Grok AI से बनाया गया कोई भी अश्लील, फूहड़ या अवैध कंटेंट तुरंत हटाया जाएगा। यदि कोई यूजर AI की मदद से ऐसा कंटेंट बनाता या फैलाता है, तो उसके खिलाफ वही कार्रवाई होगी जो सीधे अवैध सामग्री अपलोड करने पर होती है। इसमें अकाउंट का स्थायी निलंबन भी शामिल है।
केंद्र सरकार ने 2 जनवरी को X को नोटिस जारी कर कहा था कि, Grok AI के जरिए तैयार हो रहे आपत्तिजनक कंटेंट को तुरंत हटाया जाए, अन्यथा कानूनी कार्रवाई की जाएगी। सरकार ने 72 घंटे में एक्शन रिपोर्ट भी मांगी थी। इसके तीन दिन बाद X ने अपने नियमों को और सख्त कर दिया।
शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने बताया कि कुछ लोग फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े बदलने या फोटो को आपत्तिजनक रूप में पेश करने जैसी मांग कर रहे हैं। उनका कहना था कि, यह महिलाओं की निजता का उल्लंघन है और गंभीर अपराध की श्रेणी में आता है।
यह भी पढ़ें: केंद्र सरकार ने X को फटकारा : Grok AI से अश्लील कंटेंट हटाने के निर्देश, रिपोर्ट भी मांगी
रिपोर्ट्स के मुताबिक, कई मामलों में महिलाओं की अनुमति के बिना उनकी तस्वीरों को सेक्शुअल या अश्लील रूप में बदला गया। कई पीड़ित महिलाओं को इस बात की जानकारी तक नहीं होती कि उनकी तस्वीरों का इस तरह इस्तेमाल हो रहा है। आरोप है कि, Grok AI इस तरह के गलत प्रॉम्प्ट्स को रोकने में नाकाम रहा।
X के मालिक एलन मस्क ने कहा था कि Grok को दोष देना वैसा ही है जैसे गलत लिखने के लिए कलम को दोष देना। उन्होंने स्पष्ट किया कि टूल की नहीं, बल्कि उसे इस्तेमाल करने वाले व्यक्ति की जिम्मेदारी होती है। हालांकि, इसके बावजूद कंपनी ने नियमों को सख्त कर दिया है।
यह भी पढ़ें: एलन मस्क के Grok ने हटाए विवादित पोस्ट, हिटलर की तारीफ और यहूदी विरोधी टिप्पणियों पर मचा था बवाल
