ChatGPT for Teens टीनएजर्स के लिए AI में सुरक्षा की नई दीवार, पैरेंट्स को भी मिलेंगे कंट्रोल
आर्टिफिशियल इंटेलिजेंस अब बच्चों और टीनएजर्स की पढ़ाई, जानकारी जुटाने और क्रिएटिव काम का हिस्सा बन चुका है। लेकिन AI चैटबॉट से हर सवाल का जवाब मिलना हमेशा बच्चों के लिए सुरक्षित नहीं होता। इसी चिंता को देखते हुए OpenAI ने ChatGPT में टीनएजर्स के लिए अलग Teen Experience शुरू किया है। यह सुविधा खास तौर पर 13 से 17 साल के यूजर्स को ध्यान में रखकर तैयार की गई है। इसमें संवेदनशील और उम्र के हिसाब से अनुपयुक्त कंटेंट पर अतिरिक्त सुरक्षा लगाई गई है।
टीनएजर्स के लिए अलग क्या होगा?
OpenAI के मुताबिक Teen Experience का मकसद ChatGPT को बच्चों के लिए पूरी तरह अलग चैटबॉट बनाना नहीं, बल्कि उनकी उम्र के हिसाब से ज्यादा सुरक्षित अनुभव देना है। टीनएजर्स ChatGPT का इस्तेमाल पढ़ाई, सवाल पूछने, लिखने और दूसरे क्रिएटिव कामों के लिए कर सकेंगे, लेकिन कुछ संवेदनशील विषयों पर सिस्टम ज्यादा सावधानी से जवाब देगा। इसमें ग्राफिक हिंसा, आत्महत्या या खुद को नुकसान पहुंचाने से जुड़ी सामग्री, खतरनाक वायरल चैलेंज, यौन या रोमांटिक रोलप्ले और अस्वस्थ बॉडी-इमेज या डाइटिंग से जुड़ी सामग्री पर अतिरिक्त सुरक्षा लागू होगी।
पैरेंट्स के हाथ में भी आएगा कंट्रोल
इस अपडेट की एक अहम खासियत पैरेंटल कंट्रोल है। माता-पिता अपने बच्चे के ChatGPT अकाउंट को अपने अकाउंट से लिंक कर सकते हैं। इसके बाद वे कुछ सेटिंग्स को नियंत्रित कर सकेंगे और जरूरत के मुताबिक ChatGPT के इस्तेमाल की सीमाएं तय कर सकेंगे। पैरेंट्स Quiet Hours सेट कर सकते हैं, यानी तय समय के दौरान बच्चे के अकाउंट से ChatGPT इस्तेमाल नहीं किया जा सकेगा। इसके अलावा Voice Mode को बंद करने, मेमोरी के इस्तेमाल को नियंत्रित करने और इमेज जनरेशन जैसी सुविधाओं को सीमित करने के विकल्प भी उपलब्ध हैं। हालांकि इसका मतलब यह नहीं है कि माता-पिता बच्चे की हर चैट पढ़ सकेंगे। OpenAI के मुताबिक पैरेंटल कंट्रोल से माता-पिता को टीनएजर की पूरी बातचीत देखने या उसकी रियल-टाइम निगरानी करने की सुविधा नहीं मिलती।
गंभीर स्थिति में मिल सकता है सेफ्टी अलर्ट
OpenAI ने टीनएजर्स की मानसिक सुरक्षा को लेकर भी अतिरिक्त व्यवस्था की है। अगर सिस्टम और प्रशिक्षित रिव्यूअर किसी बातचीत में गंभीर आत्म-हानि के संकेत देखते हैं, तो लिंक किए गए माता-पिता को सेफ्टी नोटिफिकेशन भेजा जा सकता है। ऐसे अलर्ट ईमेल, SMS या पुश नोटिफिकेशन के जरिए भेजे जा सकते हैं। OpenAI ने साफ किया है कि यह सिस्टम हर स्थिति को सही तरीके से पहचानने की गारंटी नहीं देता, लेकिन गंभीर खतरे की स्थिति में परिवार तक जानकारी पहुंचाने की कोशिश की जाएगी।
AI पढ़ाई में मदद करेगा, सिर्फ जवाब नहीं देगा
Teen Experience का फोकस सिर्फ कंटेंट फिल्टर करने पर नहीं है। OpenAI टीनएजर्स को पढ़ाई में मदद करने के लिए ऐसे फीचर्स भी बढ़ा रहा है, जिनका उद्देश्य सीधे होमवर्क पूरा करने के बजाय छात्रों को खुद समझने और जवाब तैयार करने में मदद करना है। इसके लिए Study Mode और Study Hours जैसे फीचर्स इस्तेमाल किए जा सकते हैं। OpenAI पहले से ही टीनएजर्स के लिए उम्र के मुताबिक सुरक्षा नियम विकसित करने पर काम कर रहा है। कंपनी के U18 Principles में आत्म-हानि, यौन या रोमांटिक रोलप्ले, खतरनाक गतिविधियों, बॉडी इमेज और डिसऑर्डर्ड ईटिंग जैसे मामलों में अतिरिक्त सावधानी की बात कही गई है।
पहले 'साइलेंट टेस्ट'! प्यार में पड़ने से पहले Gen Z रखती है इन बातों पर नजर
उम्र का अंदाजा लगाकर लागू हो सकता है Teen Experience
एक और महत्वपूर्ण बदलाव उम्र की पहचान से जुड़ा है। OpenAI का सिस्टम अकाउंट से जुड़े अलग-अलग संकेतों के आधार पर यह अनुमान लगा सकता है कि यूजर 18 साल से कम उम्र का है या नहीं। अगर सिस्टम को लगता है कि यूजर टीनएजर है, तो Teen Experience की सुरक्षा लागू की जा सकती है, भले ही अकाउंट बनाते समय अलग जन्मतिथि दर्ज की गई हो। अगर 18 साल या उससे ज्यादा उम्र का यूजर गलती से Teen Experience में चला जाता है, तो वह उम्र सत्यापन के जरिए इसे हटवा सकता है। OpenAI के मुताबिक ChatGPT 13 साल से कम उम्र के बच्चों के लिए नहीं है, जबकि 13 से 18 साल के यूजर्स के लिए माता-पिता की सहमति जरूरी है।
