केंद्र सरकार ने X को फटकारा :Grok AI से अश्लील कंटेंट हटाने के निर्देश, रिपोर्ट भी मांगी

केंद्र सरकार ने सोशल मीडिया कंपनी ‘X’ को पत्र लिखा है और Grok व xAI जैसी AI-आधारित सेवाओं के दुरुपयोग की रिपोर्ट मांगी है। सरकार ने कहा कि इन टूल्स का इस्तेमाल अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री बनाने, साझा करने या अपलोड करने में हो रहा है।

Grok क्या है?

Grok एलन मस्क की कंपनी xAI द्वारा बनाया गया AI चैटबॉट और सहायक टूल है। यह टूल सवालों के जवाब देने के साथ किसी की तस्वीरें भी बना सकता है।

हाल ही में कई मामले सामने आए हैं जिनमें Grok का गलत इस्तेमाल देखा गया। कुछ लोगों ने सोशल मीडिया पर इसका विरोध किया और सरकार से कार्रवाई की मांग की।

सरकार की सख्त चेतावनी

सरकार ने पत्र में कहा कि X प्लेटफॉर्म पर प्रसारित सामग्री कई बार लागू कानूनों का उल्लंघन कर रही है। विशेष रूप से ‘ooGrok AI’ का दुरुपयोग महिलाओं की अश्लील तस्वीरें और वीडियो अपमानजनक या भद्दे तरीके से पोस्ट करने के लिए हो रहा है।

फर्जी खातों का इस्तेमाल

सरकार ने यह भी बताया कि इस सेवा का दुरुपयोग अक्सर फर्जी खातों के माध्यम से किया जा रहा है, जिससे महिलाओं की छवि को नुकसान पहुंचाया जा रहा है।

महिलाओं को बनाया जा रहा निशाना

सरकार ने कहा है कि मामला सिर्फ फर्जी आईडी तक सीमित नहीं है। Grok AI के जरिए उन महिलाओं को भी निशाना बनाया जाता है, जो अपनी तस्वीरें या वीडियो सोशल मीडिया पर साझा करती हैं। इस दौरान उनकी तस्वीरों के साथ छेड़छाड़ की जाती है और कभी-कभी उन्हें अश्लील रूप में पेश किया जाता है।

सिस्टम में बड़ी चूक

सरकार ने यह भी कहा कि इस तरह की गतिविधि प्लेटफॉर्म की सुरक्षा और सिस्टम में गंभीर विफलता को दर्शाती है।

कानूनी जिम्मेदारी पर ध्यान

केंद्र ने याद दिलाया कि सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी नियम, 2021 के तहत प्लेटफॉर्म को पर्याप्त सुरक्षा और नियामक उपाय करने जरूरी हैं। फिलहाल X प्लेटफॉर्म इन नियमों का पूरी तरह पालन नहीं कर रहा है।