सरकार ने मेटा को दिए सख्त निर्देश, डीपफेक और फर्जी कंटेंट रोकने के लिए एल्गोरिदम में बदलाव की मांग
केंद्र सरकार ने सोशल मीडिया कंपनी मेटा को अपने प्लेटफॉर्म्स पर फैल रहे डीपफेक, प्रोपेगैंडा और भ्रामक कंटेंट को रोकने के लिए सख्त कदम उठाने के निर्देश दिए हैं। सरकार ने कंपनी से कंटेंट मॉडरेशन सिस्टम को मजबूत करने और अपने एल्गोरिदम में जरूरी बदलाव करने को कहा है। मीडिया रिपोर्ट्स के अनुसार इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने मेटा से एक विस्तृत कम्प्लायंस रोडमैप भी मांगा है। इसमें कंपनी को बताना होगा कि वह फेसबुक, इंस्टाग्राम और अन्य प्लेटफॉर्म्स पर गलत जानकारी और हेरफेर किए गए कंटेंट की पहुंच को सीमित करने के लिए क्या कदम उठाएगी।
मेटा से रिकमेंडेशन सिस्टम में बदलाव की मांग
सरकार और मेटा के अधिकारियों के बीच हुई उच्चस्तरीय बैठक में सोशल मीडिया एल्गोरिदम की भूमिका पर चर्चा हुई। सरकार ने कंपनी से कहा है कि उसके रिकमेंडेशन सिस्टम में ऐसे बदलाव किए जाएं जिससे डीपफेक वीडियो, मॉर्फ्ड तस्वीरें और भ्रामक पोस्ट तेजी से वायरल न हो सकें। सरकार का मानना है कि सोशल मीडिया प्लेटफॉर्म के एल्गोरिदम कई बार ऐसे कंटेंट को ज्यादा लोगों तक पहुंचा देते हैं जिससे गलत सूचना तेजी से फैलती है। इसलिए कंटेंट की पहचान और उसकी पहुंच को नियंत्रित करने के लिए तकनीकी सुधार जरूरी हैं।
आपत्तिजनक कंटेंट हटाने की प्रक्रिया तेज करने के निर्देश
सरकार ने मेटा को अधिकृत सरकारी एजेंसियों की ओर से फ्लैग किए गए आपत्तिजनक कंटेंट पर तेजी से कार्रवाई करने को कहा है। इसके अलावा भारत के डेटा लोकलाइजेशन नियमों का पालन सुनिश्चित करने के निर्देश भी दिए गए हैं। सरकार चाहती है कि सोशल मीडिया कंपनियां भारतीय कानूनों और डिजिटल सुरक्षा से जुड़े नियमों के अनुसार काम करें।
सरकारी विभागों की क्विक रिस्पॉन्स टीम के साथ तालमेल
बैठक में केंद्र सरकार ने मेटा से कहा कि वह विभिन्न सरकारी विभागों की क्विक रिस्पॉन्स टीम्स (QRTs) के साथ बेहतर समन्वय बनाए। इसका उद्देश्य डीपफेक वीडियो, एडिटेड फोटो और गलत सूचनाओं की पहचान तेजी से करना है ताकि नुकसान पहुंचाने वाले कंटेंट को ज्यादा फैलने से पहले हटाया जा सके।
मेटा ने मानी सिस्टम में कमियां
सरकारी सूत्रों के मुताबिक, बैठक के दौरान मेटा ने अपने एल्गोरिदम सिस्टम में कुछ कमियां होने की बात स्वीकार की है। कंपनी ने माना कि रिकमेंडेशन सिस्टम में सुधार की जरूरत है और काम करने के तरीके में बदलाव किए जाने चाहिए। चर्चा के दौरान भारतीय कानूनों के पालन, कंटेंट मॉडरेशन और प्लेटफॉर्म पर मौजूद नुकसानदायक कंटेंट की पहचान जैसे मुद्दों पर विशेष ध्यान दिया गया।
मेटा की ग्लोबल टेक्निकल टीम भारत में करेगी आगे की चर्चा
सरकार की चिंताओं और तकनीकी पहलुओं को समझने के लिए मेटा की ग्लोबल टेक्निकल टीम भारत में रुककर आगे की बैठकों में हिस्सा लेगी। आने वाले दिनों में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय और मेटा के बीच कई दौर की बातचीत होने की संभावना है। इन बैठकों में कंटेंट मॉडरेशन सिस्टम और एआई आधारित फर्जी कंटेंट रोकने के उपायों पर चर्चा होगी।
ये भी पढ़ें: WhatsApp पर AI एजेंट भी कर सकते हैं Spam, साइबर सिक्योरिटी रिसर्च ने दी यूजर्स को चेतावनी
AI से बढ़ते फर्जी कंटेंट पर सरकार की नजर
आर्टिफिशियल इंटेलिजेंस के बढ़ते इस्तेमाल के साथ डीपफेक वीडियो और नकली तस्वीरों की घटनाएं भी बढ़ी हैं। सरकार का कहना है कि सोशल मीडिया कंपनियों को एआई से बनाए गए और बदले गए कंटेंट की पहचान के लिए मजबूत तकनीकी सुरक्षा उपाय लागू करने होंगे। सरकार डिजिटल प्लेटफॉर्म्स की जवाबदेही तय करने और यूजर्स को सुरक्षित ऑनलाइन माहौल देने पर जोर दे रही है।
क्या होता है सोशल मीडिया एल्गोरिदम?
सोशल मीडिया एल्गोरिदम एक डिजिटल सिस्टम होता है, जो यह तय करता है कि यूजर की फीड में कौन सा पोस्ट, वीडियो या कंटेंट सबसे पहले दिखाई देगा। यह सिस्टम यूजर की पसंद, लाइक, शेयर, कमेंट और देखने के समय जैसे डेटा के आधार पर कंटेंट को प्राथमिकता देता है। यही कारण है कि किसी पोस्ट के तेजी से वायरल होने में एल्गोरिदम की बड़ी भूमिका होती है।
ये भी पढ़ें: दिल्ली हाईकोर्ट से डाबर को बड़ी राहत: FSSAI के आदेश पर रोक, 100% शुद्ध लेबल वाले उत्पाद फिलहाल बिकेंगे
क्या होती है क्विक रिस्पॉन्स टीम?
क्विक रिस्पॉन्स टीम यानी QRT ऐसी विशेषज्ञ टीम होती है, जो आपत्तिजनक कंटेंट, अफवाहों या साइबर खतरे जैसी स्थितियों में तुरंत कार्रवाई करती है। इन टीमों का काम संदिग्ध कंटेंट की पहचान करना, संबंधित एजेंसियों के साथ तालमेल बनाना और जरूरत पड़ने पर उसे हटाने की प्रक्रिया शुरू करना होता है।
