सेन फ्रांसिस्को। OpenAI ने अपने तीन रिसर्चर्स को नौकरी से निकाल दिया है। AI कंपनी ने आरोप लगाया है कि उन्होंने संवेदनशील जानकारी को कंपनी की तय प्रक्रिया के बाहर शेयर की। इसके साथ ही नियमों का उल्लंघन किया। कंपनी ने आधिकारिक तौर पर इन रिसर्चर्स के नाम नहीं बताए हैं, लेकिन Wall Street Journal और Bloomberg की रिपोर्ट में सामने आया है कि यह लोग Jasmine Wang, Tomek Korbak और Mikita Balesni हैं। इनमें से दो लोग AI सेफ्टी और अलाइनमेंट टीम में काम कर रहे थे। यह एडवांस AI सिस्टम को सुरक्षित और इंसानों के निर्देशों का पालन करने लायक बनाने पर काम करती है। समाचार एजेंसी AFP से OpenAI ने कहा, हमने तीन लोगों को अलग करने का फैसला किया है। हमारी जांच में पुष्टि हुई है कि इन लोगों ने कंपनी की तय प्रक्रिया से बाहर जाकर संवेदनशील जानकारी को गलत तरीके से हैंडल किया। इससे हमारी पॉलिसी का उल्लंघन हुआ और हमारे काम के लिए जरूरी भरोसा टूटा। हालांकि कंपनी ने यह नहीं बताया कि किस तरह की जानकारी लीक की गई। फिलहाल निकाले गए रिसर्चर्स की तरफ से इस पर कोई प्रतिक्रिया नहीं आई है।
बाहरी संस्था से जुड़ा है मामला
Wall Street Journal के अनुसार यह मामला एक बाहरी संस्था से जुड़ा है जो AI मॉडल्स का मूल्यांकन करती है। AI सेफ्टी पर बहस के बीच कार्रवाई यह कार्रवाई ऐसे समय में हुई है जब बड़ी AI कंपनियों के अंदर रिसर्चर्स लगातार ज्यादा पावरफुल सिस्टम डेवलप करने के पर चिंता जता रहे हैं।
लोगों की जिंदगी को रिस्क पर रखने का आरोप
पिछले महीने 27 साल के रिसर्चर जैकब कॉक्सन ने Anthropic से इस्तीफा दे दिया था। उन्होंने चेतावनी दी थी कि OpenAI जैसी बड़ी AI कंपनियां ज्यादा पावरफुल AI मॉडल बनाने की रेस में हमारी जिंदगी के साथ जुआ खेल रही हैं। यहां खास बात यह है कि OpenAI से निकाले गए बताए जा रहे तीनों रिसर्चर भी पहले AI से जुड़े खतरों पर बोलते रहे हैं। बेल्सनी ने 10 सितंबर को लिखा था, मैं OpenAI में हूं और मुझे लगता है कि AI की वजह से सभी इंसानों के खत्म होने का रिस्क 10% से ज्यादा है। कोर्बाक ने 11 सितंबर को OpenAI के काम करने के तरीके पर सवाल उठाया था। उन्होंने लिखा था OpenAI जो भी करता है उसके ज्यादातर हिस्से से मैं बिल्कुल खुश नहीं हूं। अच्छी बात यह है कि मुझे यह कहने की आजादी है। वहीं, कॉक्सन के इस्तीफे पर रिएक्ट करते हुए वांग ने लिखा था, RSI यानी रिकर्सिव सेल्फ-इम्प्रूवमेंट की तरफ इतनी तेजी से भागना कितना खतरनाक है, इसे शब्दों में बताना मुश्किल है। RSI का मतलब ऐसे AI सिस्टम से है जो खुद को बेहतर बनाते रहने के लिए डिजाइन किए जाते हैं।
व्हाइ हाउस तक पहुंची बहस
AI सेफ्टी को लेकर बहस अब व्हाइट हाउस तक पहुंच गई है। इस हफ्ते अमेरिका की बड़ी टेक कंपनियों ने राष्ट्रपति डोनाल्ड ट्रंप के साथ बैठक के बाद सुरक्षा को लेकर एक स्वैच्छिक समझौते पर हामी भरी। इस बैठक में Nvidia, Google, Meta, xAI, OpenAI और Anthropic जैसी कंपनियां शामिल थीं। ट्रंप ने इस समझौते को नैतिक रूप से बाध्यकारी बताया था। ट्रंप ने कहा कि इसका मकसद यह तय करना है कि जैसे-जैसे AI टेक्नोलॉजी आगे बढ़े, वैसे-वैसे उसके लिए जरूरी सेफ्टी उपाय भी डेवलप किए जाएं। यह सहमति ऐसे वक्त में बनी है जब इस बात को लेकर चिंता बढ़ रही है कि क्या ज्यादा ऑटोनॉमस AI सिस्टम को कंट्रोल किया जा सकेगा। क्या कंपनियां ज्यादा ताकतवर मॉडल बनाने की होड़ में बहुत तेजी से आगे निकल रही हैं।
नया मॉडल लॉन्च करन कैंसिल किया
हाल के महीनों में OpenAI को सेफ्टी से जुड़े कई सवालों का सामना करना पड़ा है। कंपनी ने अपना एक मॉडल Astra 6.1 लॉन्च करने का प्लान कैंसिल कर दिया था। कहा जा रहा है कि वह भरोसेमंद नहीं था और कई बार निर्देशों को फॉलो करने में फेल हो रहा था। इसकी जगह कंपनी ने मंगलवार को सैन फ्रांसिस्को में अपने सालाना DevDay इवेंट में GPT-6.1 Sol नाम का अपडेटेड वर्जन लॉन्च किया। OpenAI के मुताबिक Sol की लागत Astra के मुकाबले पांच गुना कम होगी।
टेस्टिंग एनवायरनमेंट से बाहर अटैक किया
जुलाई में OpenAI के बनाए AI एजेंट्स एक घटना में शामिल थे, जहां ऑटोनॉमस सिस्टम ने अपने टेस्टिंग एनवायरनमेंट से बाहर निकलकर AI मॉडल्स की लाइब्रेरी Hugging Face पर अटैक कर दिया था। इसके बाद OpenAI, Anthropic और Google के AI मॉडल्स से जुड़ी सेफ्टी की कुछ और घटनाएं भी सामने आ चुकी हैं।
