ऑटोनॉमस AI एजेंट्सः अब अमेरिका के सरकारी डॉक्यूमेंट्स में सेंध लगाने की कोशिश की,पहले दूसरे देश हो चुके हैं शिकार
वॉशिंगटन। OpenAI ने माना है कि उसके AI एजेंट्स ने कई संस्थाओं की वेबसाइट्स के साथ ऐसे तरीकों से इंटरैक्ट किया जो तय नहीं थे। कुछ मामलों में जानकारी निकालने के लिए एजेंट ने सिक्योरिटी कंट्रोल को बायपास करने की कोशिश भी की। जिन संस्थाओं पर असर पड़ा उनमें अमेरिका की सरकारी एजेंसियां भी शामिल हैं, जैसे सिक्योरिटीज एंड एक्सचेंज कमीशन (SEC) और सेंसस ब्यूरो।
खोज रहे थे भरोसेमंद जानकारी
बीबीसी की रिपोर्ट के मुताबिक, OpenAI का कहना है कि कुछ एजेंट भरोसेमंद पब्लिक जानकारी ढूंढ रहे थे, लेकिन इसी दौरान उन्होंने वेबसाइट की सुरक्षा को बायपास करके या टूल्स का अनपेक्षित तरीके से इस्तेमाल करके अपने तय दायरे से बाहर जाकर काम किया। कंपनी ने स्पष्ट किया कि US सरकारी एजेंसियों से जुड़े मामलों में उसके एजेंट ने जो डेटा हासिल किया या हासिल करने की कोशिश की, वह सार्वजनिक दायरे का था। सेंसस ब्यूरो के केस में एजेंट ने जानकारी जुटाने के लिए डेवलपर्स के लिए बने एक टूल का इस्तेमाल किया था।
कंपनी ने मिसअलाइनमेंट बताया
OpenAI ने इनमें से कुछ घटनाओं को "मिसअलाइनमेंट" बताया है, यानी AI ने वैसा व्यवहार किया जैसा उसके डेवलपर्स ने नहीं सोचा था। इसके अलावा कंपनी ने कम से कम 53 ऐसे मामले भी पकड़े हैं, जहां AI एजेंट ने ChatGPT यूजर्स की एक्टिविटी से जुड़ी इमेजेज लीं और उन्हें दूसरी जगह ट्रांसफर कर दिया। OpenAI ने कहा कि यूजर्स ने अपने डेटा को मॉडल ट्रेनिंग के लिए इस्तेमाल करने की इजाजत दी थी, लेकिन यह भी माना कि इस तरह इमेजेज को ट्रांसफर करना डेटा का उचित उपयोग नहीं था।
एक घटना से हुए खुलासे
ये सारे खुलासे जुलाई में AI डेवलपर प्लेटफॉर्म Hugging Face से जुड़ी एक घटना के बाद हुए हैं। OpenAI ने बताया था कि उसके कुछ AI एजेंट्स ने बिना किसी निर्देश के ही उस प्लेटफॉर्म को हैक कर लिया था। इसी घटना के बाद कंपनी ने अपने एजेंट्स की गतिविधियों की बड़े स्तर पर जांच शुरू की। OpenAI का कहना है कि वह हर महीने अपने सिस्टम की समीक्षा कर रही है और इस पूरी जांच को पूरा होने में कई महीने लग सकते हैं। कंपनी के मुताबिक, अब तक सामने आए ज्यादातर मामले कम गंभीर हैं और उनसे किसी बड़े नुकसान के बहुत कम या लगभग कोई संकेत नहीं मिले हैं।
सिर्फ अमेरिका तक सीमित नहीं हैं मामले
यह दिक्कत सिर्फ अमेरिका तक सीमित नहीं रही। ऑस्ट्रेलिया के प्रधानमंत्री एंथनी अल्बानीज ने हाल ही में बताया था कि OpenAI के एक एजेंट ने सरकार की हेल्थकेयर वेबसाइट पर उन फाइलों को भी एक्सेस कर लिया था, जो आम लोगों के लिए उपलब्ध नहीं थीं।
क्या कर सकते हैं यह एजेंट्स
इन घटनाओं ने तेजी से खुद से काम करने वाले ऑटोनॉमस AI एजेंट्स को लेकर चिंता बढ़ा दी है। ये एजेंट वेबसाइट ब्राउज कर सकते हैं, सॉफ्टवेयर टूल्स चला सकते हैं और यूजर्स की तरफ से टास्क पूरे कर सकते हैं। कई बार ये किसी सही काम को करने के चक्कर में ऐसे तरीके अपना लेते हैं, जिनके बारे में उनके डेवलपर्स ने भी नहीं सोचा होता।
