नया सेफ्टी फीचर: अब क्लॉड एआई खुद पकड़ेगा यूजर्स की गलत हरकतें, स्क्रीन पर नहीं आएगा कोई पॉप-अप या चेतावनी
एंथ्रोपिक के चैटबॉट क्लॉड में नया सुरक्षा सिस्टम आया है। कंपनी के मुताबिक अब क्लॉड खुद यूजर की गलत बातचीत पहचानेगा। ऐसी चैट को वह इंसानी जांच के लिए कंपनी तक भेजेगा। Claude AI इस्तेमाल करने वालों के लिए यह जानकारी जरूरी है। सिस्टम चुपचाप काम करता है और स्क्रीन पर कुछ नहीं दिखता।
बैकग्राउंड फीचर का नाम सेल्फ असेसमेंट
एआई (AI – Artificial Intelligence) चैटबॉट से बातचीत आम तौर पर दोतरफा होती है। नए सिस्टम में पर्दे के पीछे एक अतिरिक्त परत काम करती है। यूजर को इसका पता नहीं चलता।
एंथ्रोपिक के मुताबिक इस बैकग्राउंड फीचर का नाम सेल्फ असेसमेंट है। कंपनी के बयान में इसे Anthropic Claude self assessment नाम से बताया गया है। एंथ्रोपिक सेल्फ असेसमेंट यानी क्लॉड अपनी बातचीत की खुद समीक्षा करता है।
यह सिस्टम अचानक नहीं आया। कंपनी के मुताबिक यह जून 2026 से चल रहा था। इसे Anthropic Claude Fable 5 जैसे बड़े मॉडल पर परखा गया। क्लॉड एआई सेफ्टी फीचर की जानकारी अब साझा की गई है।
क्लॉड एआई चैट फ्लैग कैसे करता है?
क्लॉड जैसे ही यूजर को जवाब देता है, सिस्टम सक्रिय हो जाता है। वह क्लॉड को एक छिपा हुआ निर्देश भेजता है। इसमें चैट की समीक्षा करने को कहा जाता है। इसके बाद क्लॉड खुद तय करता है कि बात नुकसानदेह थी या नहीं। वह उसका प्रकार भी बताता है।
फिर तय होता है कि इंसानी जांच के लिए भेजना है या नहीं। आपत्तिजनक व्यवहार पर क्लॉड एआई चैट फ्लैग करके कंपनी को भेज देता है। वहां इंसानी जांच होती है। यानी Claude AI flag chats वाला फीचर संदिग्ध बातचीत अलग निकालता है।
यूजर्स को क्यों नहीं चलेगा पता?
इसकी सबसे खास बात है कि यह पर्दे के पीछे होता है। चैट फ्लैग होने पर स्क्रीन पर कोई पॉप-अप नहीं आएगा। कोई चेतावनी संदेश भी नहीं दिखेगा। यूजर के काम में रुकावट नहीं आती। सोचिए एक बार। चैट आगे बढ़ रही है और पीछे जांच चल रही है। सिस्टम चैट को रोकता नहीं है।
रिव्यू और ब्लॉकिंग में फर्क क्या है?
ब्लॉकिंग में चैट उसी वक्त रुक जाती है। रिव्यू में चैट बाद में जांच के लिए भेजी जाती है। एंथ्रोपिक का यह फीचर दूसरे तरीके पर बना है।
सिर्फ 10 टोकन, 2% से कम खर्च
आम तौर पर एआई चैट की सुरक्षा जांच महंगी होती है। इसमें बहुत कंप्यूटिंग पावर (मशीन की गणना की ताकत) लगती है। एंथ्रोपिक ने इसे किफायती बनाया है। इस जांच में सिर्फ 10 एक्स्ट्रा टोकन (शब्द के टुकड़े) लगते हैं।
इससे कुल कंप्यूटिंग लागत 2 प्रतिशत से भी कम बढ़ती है। यानी 100 रुपए के खर्च पर 2 रुपए से कम का बोझ। कंपनी के पुराने सुरक्षा सिस्टम 24 प्रतिशत तक कंप्यूटिंग पावर खर्च करते हैं। प्रतिद्वंदी कंपनी ओपनएआई के सेफ्टी फीचर 16 प्रतिशत तक खर्च करते हैं।
क्लॉड फेबल 5 पर कितना सटीक?
कंपनी ने क्लॉड फेबल 5 पर आंतरिक डेटा साझा किया। इसके मुताबिक सिस्टम 78 प्रतिशत नुकसानदेह बातचीत पकड़ने में सफल रहा। यानी हर 100 में से 78 बातचीत। गंभीर मामलों में सटीकता 94 प्रतिशत तक पहुंची। कंपनी के मुताबिक गलत फैसले की आशंका सिर्फ 1 प्रतिशत है। फ्रॉड या साइबर हमले की ट्रेनिंग न मिले, तब भी यह काम करता है। वह सामान्य जानकारी से 90 प्रतिशत तक खतरे भांप लेता है।
अगस्त में एक लाख से ज्यादा मामले
एंथ्रोपिक के मुताबिक सिस्टम ने जमीन पर काम शुरू कर दिया है। अकेले अगस्त में एक ही कस्टमर के 1,00,000 से ज्यादा मामले फ्लैग हुए। ये बाल शोषण से जुड़ी सामग्री के मामले थे। कंपनी ने इसकी रिपोर्ट तुरंत संबंधित कानूनी अधिकारियों को सौंपी। हर मामले को एक मिनट दें, तो लगातार देखने में करीब 69 दिन लगेंगे।
हैकर्स के खिलाफ कितना कारगर?
एंथ्रोपिक ने साफ किया कि यह Claude AI safety feature रामबाण इलाज नहीं है। यह मुख्य रूप से ऑफलाइन रिव्यू (बाद की जांच) के लिए बना है। यह चैट को रीयल-टाइम (उसी समय) में ब्लॉक नहीं करता। आंतरिक साइबर सिक्योरिटी टेस्ट में सिर्फ यही फीचर चालू था। तब हैकर्स 54 प्रतिशत मामलों में एआई को चकमा देने में कामयाब रहे। यानी 100 में से 54 मामलों में।
यह बिना किसी सुरक्षा से बेहतर है, लेकिन रीयल-टाइम ब्लॉकिंग जितना मजबूत नहीं। इसलिए कंपनी इसे अतिरिक्त परत के रूप में इस्तेमाल कर रही है। पुराने स्वतंत्र ब्लॉकर्स रीयल-टाइम सुरक्षा के लिए काम करते रहेंगे।
