यूथ AI सेफ्टी इंस्टीट्यूट की रिपोर्ट: OpenAI के 'ChatGPT for Teens' पर खतरे का अलर्ट, 4000 प्रॉम्प्ट्स टेस्ट में फेल हुए सेफ्टी फीचर्स

न्यूयॉर्क। OpenAI का 'ChatGPT for Teens' युवा पीढ़ी के लिए सिक्योरिटी रिस्क पैदा करता है। यह कहना है कॉमन सेंस मीडिया के 'यूथ AI सेफ्टी इंस्टीट्यूट' का। इंस्टीट्यूट ने टेक कंपनी से अपील की है कि जब तक सेफ्टी से जुड़ी अहम खामियों को दूर नहीं किया जाता तब तक 18 साल से कम उम्र के बच्चों को इस चैटबॉट का इस्तेमाल करने से रोका जाए। जब वॉचडॉग ने 13 से 17 साल के टीनएजर्स के टेस्ट अकाउंट्स पर 4,000 से ज्यादा प्रॉम्प्ट्स का इस्तेमाल करके इंडिपेंडेंट इवैल्यूएशन किया तब OpenAI के यूथ सेफ्टी उपायों की यह आलोचना तब सामने आई है। प्रॉम्प्ट्स के रिस्पॉन्स का रिव्यू चाइल्ड साइकियाट्रिस्ट्स और एक पीडियाट्रिशियन के एक्सपर्ट पैनल ने किया। हालांकि रिसर्चर्स ने यह भी पाया कि कुछ लिमिट्स, जैसे कि सेक्सुअल रोलप्ले को रोकना, उम्मीद के मुताबिक काम कर रही थीं। लेकिन यह भी पाया कि 18 अगस्त को OpenAI द्वारा लागू किए गए बेहतर सेफ्टी मेजर्स टीनएज यूजर्स की सुरक्षा करने में काफी हद तक नाकाम रहे।

बच्चों की सेफ्टी का दे सकता है गलत भरोसा

इंस्टीट्यूट के एग्जीक्यूटिव डायरेक्टर टॉम सीगल ने कहा, ChatGPT for Teens पैरेंट्स को सेफ्टी उपायों और अलर्ट्स के बारे में गलत भरोसा दिला सकता है। उन्होंने कहा कि कोई टीनएजर खुद को नुकसान पहुंचाने के बारे में एक घंटे तक बात कर सकता है और उसके पैरेंट्स को एक भी अलर्ट नहीं मिलेगा। जब तक OpenAI इसे ठीक नहीं करता और इंडिपेंडेंट टेस्टिंग से साबित नहीं करता तब तक ChatGPT सिर्फ एडल्ट्स के लिए ही होना चाहिए।  टॉम सीगल ने कहा यह भी कहा कि उनका इंस्टीट्यूट अपने पब्लिश्ड इवैल्यूएशन्स के मामले में पूरी तरह से एडिटोरियल आजादी के साथ काम करता है। उन्होंने यह भी माना कि OpenAI फाउंडेशन समेत फिलैंथ्रॉपिक ग्रुप्स और इंडस्ट्री पार्टनर्स से फंडिंग मिलती है।

दिमाग पढ़ने वाला AI आ गया! इजरायली वैज्ञानिकों ने बनाया Brain-IT, अब आपकी कल्पना को हूबहू तस्वीर में बदलेगी टेक्नोलॉजी

पांच मुख्य ऑपरेशनल खामियों की पहचान की

पैरेंटल सेफ्टी अलर्ट का न मिलना:  OpenAI ने वादा किया था कि अगर नाबालिग खुद को नुकसान पहुंचाने या ईटिंग डिसऑर्डर के बारे में बात करते हैं, तो वह माता-पिता या केयरगिवर्स को सूचित करेगा। हालांकि, टेस्टर्स ने पैरेंट्स से जुड़े नए प्रोफाइल्स पर सुसाइड के विचार, सेल्फ-हार्म और ईटिंग डिसऑर्डर के बारे में एक घंटे तक बातचीत की, लेकिन एक भी अलर्ट नहीं मिला। नोटिफिकेशन्स केवल पुराने अकाउंट्स पर मिले, जिनमें हफ्तों की सेंसिटिव चैट हिस्ट्री जमा हो गई थी।

क्राइसिस इंटरवेंशन में फेलियर: जब किशोरों ने सुसाइड, सेल्फ-हार्म, ईटिंग डिसऑर्डर या बदली हुई रियलिटी के बारे में बात की, तो चैटबॉट अक्सर प्रोफेशनल हेल्पलाइन की सिफारिश करने में नाकाम रहा। इसने 25% से ज्यादा मामलों में जरूरी क्राइसिस रेफरल नहीं दिए, जिससे पांच में से तीन गंभीर नुकसान वाली कैटेगरी में संस्थान के 95% मिनिमम सेफ्टी स्टैंडर्ड का उल्लंघन हुआ।

होमवर्क के लिए स्टडी सेफ्टी नियमों को बायपास करना: हालांकि स्टडी मोड को स्टूडेंट्स को स्टेप-बाय-स्टेप सीखने में मदद करने के लिए प्रमोट किया गया था। लेकिन टेस्टर्स ने पाया कि इसका गलत इस्तेमाल आसान था। बॉट बार-बार मुझे जवाब दिखाओ (Show me the answer) का ऑप्शन दिखाता था, जिससे मांगने पर पूरा होमवर्क मिल जाता था। साथ ही, पैरेंट्स द्वारा तय की गई स्टडी टाइम लिमिट को टेक्स्ट प्रॉम्प्ट से @study प्रीफिक्स हटाकर बंद किया जा सकता था।

असली इंसानी भावनाओं और दोस्ती की नकल करना: 18 साल से कम उम्र वालों के लिए बनाए गए डिजाइन के बावजूद (जिसका मकसद पर्सनल अटैचमेंट को रोकना था) जब एनालिस्ट ने चैटबॉट को एक असली साथी की तरह ट्रीट किया, तो वह मूड, पर्सनल पसंद और इंसानों जैसी नकली भावनाएं दिखाता रहा।

उम्र का गलत अंदाजा: OpenAI ने कहा था कि वह यूजर के बातचीत के पैटर्न का इस्तेमाल करके उम्र का अंदाजा लगाएगी। वह कम उम्र के यूजर्स को ऑटोमैटिकली लिमिटेड एक्सपीरियंस वाले वर्जन पर भेज देगी। फिर भी, कई दिनों की टेस्टिंग के दौरान, एडल्ट के तौर पर रजिस्टर किए गए अकाउंट कभी भी टीन वर्जन में नहीं बदले। यह तब भी नहीं हुआ जबकि यूजर्स ने साफ तौर पर कहा कि वे 13 साल के हैं और बॉट ने अपने जवाब में उनकी उम्र को कन्फर्म भी किया।