केंद्र सरकार ने सोशल मीडिया कंपनी ‘X’ को पत्र लिखा है और Grok व xAI जैसी AI-आधारित सेवाओं के दुरुपयोग की रिपोर्ट मांगी है। सरकार ने कहा कि इन टूल्स का इस्तेमाल अश्लील, नग्न, अभद्र और यौन रूप से स्पष्ट सामग्री बनाने, साझा करने या अपलोड करने में हो रहा है।
Grok एलन मस्क की कंपनी xAI द्वारा बनाया गया AI चैटबॉट और सहायक टूल है। यह टूल सवालों के जवाब देने के साथ किसी की तस्वीरें भी बना सकता है।
हाल ही में कई मामले सामने आए हैं जिनमें Grok का गलत इस्तेमाल देखा गया। कुछ लोगों ने सोशल मीडिया पर इसका विरोध किया और सरकार से कार्रवाई की मांग की।
सरकार ने पत्र में कहा कि X प्लेटफॉर्म पर प्रसारित सामग्री कई बार लागू कानूनों का उल्लंघन कर रही है। विशेष रूप से ‘ooGrok AI’ का दुरुपयोग महिलाओं की अश्लील तस्वीरें और वीडियो अपमानजनक या भद्दे तरीके से पोस्ट करने के लिए हो रहा है।
सरकार ने यह भी बताया कि इस सेवा का दुरुपयोग अक्सर फर्जी खातों के माध्यम से किया जा रहा है, जिससे महिलाओं की छवि को नुकसान पहुंचाया जा रहा है।
सरकार ने कहा है कि मामला सिर्फ फर्जी आईडी तक सीमित नहीं है। Grok AI के जरिए उन महिलाओं को भी निशाना बनाया जाता है, जो अपनी तस्वीरें या वीडियो सोशल मीडिया पर साझा करती हैं। इस दौरान उनकी तस्वीरों के साथ छेड़छाड़ की जाती है और कभी-कभी उन्हें अश्लील रूप में पेश किया जाता है।
सरकार ने यह भी कहा कि इस तरह की गतिविधि प्लेटफॉर्म की सुरक्षा और सिस्टम में गंभीर विफलता को दर्शाती है।
केंद्र ने याद दिलाया कि सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी नियम, 2021 के तहत प्लेटफॉर्म को पर्याप्त सुरक्षा और नियामक उपाय करने जरूरी हैं। फिलहाल X प्लेटफॉर्म इन नियमों का पूरी तरह पालन नहीं कर रहा है।
