Grok AI पर X की सख्ती :अश्लील कंटेंट बनाने पर अकाउंट होगा बैन, भारत सरकार के अल्टीमेटम के बाद फैसला

नई दिल्ली। सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने अपने AI चैटबोट Grok के जरिए बनाए जा रहे अश्लील और आपत्तिजनक कंटेंट पर बड़ी कार्रवाई की है। भारत सरकार की सख्त आपत्ति और नोटिस के बाद कंपनी ने नए नियम लागू कर दिए हैं। कंपनी ने साफ कर दिया है कि, Grok से अवैध कंटेंट बनाने वाले यूजर्स का अकाउंट हमेशा के लिए बंद कर दिया जाएगा।

Grok AI के दुरुपयोग पर X का बड़ा फैसला

X ने स्पष्ट किया है कि, Grok AI से बनाया गया कोई भी अश्लील, फूहड़ या अवैध कंटेंट तुरंत हटाया जाएगा। यदि कोई यूजर AI की मदद से ऐसा कंटेंट बनाता या फैलाता है, तो उसके खिलाफ वही कार्रवाई होगी जो सीधे अवैध सामग्री अपलोड करने पर होती है। इसमें अकाउंट का स्थायी निलंबन भी शामिल है।

भारत सरकार की आपत्ति के बाद बदले नियम

केंद्र सरकार ने 2 जनवरी को X को नोटिस जारी कर कहा था कि, Grok AI के जरिए तैयार हो रहे आपत्तिजनक कंटेंट को तुरंत हटाया जाए, अन्यथा कानूनी कार्रवाई की जाएगी। सरकार ने 72 घंटे में एक्शन रिपोर्ट भी मांगी थी। इसके तीन दिन बाद X ने अपने नियमों को और सख्त कर दिया।

प्रियंका चतुर्वेदी ने उठाया था मुद्दा

शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok के गलत इस्तेमाल पर चिंता जताई थी। उन्होंने बताया कि कुछ लोग फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े बदलने या फोटो को आपत्तिजनक रूप में पेश करने जैसी मांग कर रहे हैं। उनका कहना था कि, यह महिलाओं की निजता का उल्लंघन है और गंभीर अपराध की श्रेणी में आता है।

यह भी पढ़ें: केंद्र सरकार ने X को फटकारा : Grok AI से अश्लील कंटेंट हटाने के निर्देश, रिपोर्ट भी मांगी

महिलाओं की तस्वीरों के दुरुपयोग का आरोप

रिपोर्ट्स के मुताबिक, कई मामलों में महिलाओं की अनुमति के बिना उनकी तस्वीरों को सेक्शुअल या अश्लील रूप में बदला गया। कई पीड़ित महिलाओं को इस बात की जानकारी तक नहीं होती कि उनकी तस्वीरों का इस तरह इस्तेमाल हो रहा है। आरोप है कि, Grok AI इस तरह के गलत प्रॉम्प्ट्स को रोकने में नाकाम रहा।

एलन मस्क का बयान: जिम्मेदारी यूजर की

X के मालिक एलन मस्क ने कहा था कि Grok को दोष देना वैसा ही है जैसे गलत लिखने के लिए कलम को दोष देना। उन्होंने स्पष्ट किया कि टूल की नहीं, बल्कि उसे इस्तेमाल करने वाले व्यक्ति की जिम्मेदारी होती है। हालांकि, इसके बावजूद कंपनी ने नियमों को सख्त कर दिया है।

IT एक्ट 2021 के तहत X की जिम्मेदारी

• सूचना प्रौद्योगिकी अधिनियम और IT रूल्स 2021 के अनुसार:
• यूजर की शिकायत पर 24 घंटे में आपत्तिजनक कंटेंट हटाना अनिवार्य।
• अन्य मामलों में 72 घंटे के भीतर कार्रवाई जरूरी।
• महिलाओं से जुड़ा AI या डीपफेक कंटेंट तुरंत हटाना होगा।
• दोबारा अपलोड रोकने और फेक अकाउंट्स पर सख्त एक्शन जरूरी।

यह भी पढ़ें: एलन मस्क के Grok ने हटाए विवादित पोस्ट, हिटलर की तारीफ और यहूदी विरोधी टिप्पणियों पर मचा था बवाल