AI के खतरों को रोकने के लिए Anthropic का बड़ा कदम, अमेरिकी संसद में पेश किया ड्राफ्ट बिल
वॉशिंगटन। आर्टिफिशियल इंटेलिजेंस (AI) टेक्नोलॉजी के तेजी से बढ़ने के साथ जुड़े खतरों को लेकर चिंताएं बढ़ रही हैं। इसी बीच AI कंपनी एंथ्रोपिक (Anthropic) ने अमेरिकी सांसदों के सामने AI की सुरक्षा के लिए एक ड्राफ्ट बिल पेश किया है। इस बिल की जानकारी देने वाले 'पोलिटिको' की रिपोर्ट, के अनुसार इसके प्रस्ताव में कहा गया है कि यदि किसी AI मॉडल से 50 से ज्यादा लोगों की मौत या उनके घायल होने का, या 1 अरब डॉलर से अधिक के नुकसान का तत्काल खतरा पैदा होता है, तो सरकार उसके रिलीज पर रोक लगा सकती है।
जानें कैसे बन सकती है ऐसी खतरनाक स्थिति
पॉलिटिको के मुताबिक, यह खतरनाक स्थिति तब बन सकती है जब कोई AI मॉडल जैविक हथियार (Biological Weapon) बना दे। AI इंसानी नियंत्रण से बाहर चला जाए या उसके जरिए कोई बड़ा साइबर हमला हो। कंपनी के प्रवक्ता ने बताया, यह बिल एंथ्रोपिक के एडवांस्ड AI फ्रेमवर्क में दिए गए सुझावों पर आधारित है। हम जून महीने से ही केंद्र और राज्य स्तर पर सांसदों के सामने इन प्रस्तावों को रख रहे हैं।
इन प्रक्रियाओं को प्रस्तावित किया बिल में
एंथ्रोपिक के प्रवक्ता ने कहा कि इस बिल के तहत AI डेवलप करने वाली कंपनियों के लिए अपने मॉडल्स की टेस्टिंग करना और उसके नतीजों को सार्वजनिक करना अनिवार्य होगा। इसके साथ ही कंपनियों को स्वतंत्र मूल्यांकनकर्ताओं (Independent Evaluators) से अपने मॉडल्स की नियमित जांच भी करानी होगी।उन्होंने आगे कहा, हमारा प्रस्ताव संघीय सरकार को यह अधिकार देता है कि वह सबसे शक्तिशाली AI मॉडल्स के खतरनाक इस्तेमाल को रोक सके। ये बहुत समझदारी भरी नीतियां हैं और हमें लगता है कि कांग्रेस को इस पर कार्रवाई करनी चाहिए।
मुश्किल वक्त की तैयारी में जुटी कंपनियां
दुनिया की सबसे बड़ी AI कंपनियां अब अपने सबसे मुश्किल वक्त के लिए तैयारी करने में जुटी हैं। एक्सियोस की रिपोर्ट के मुताबिक, एंथ्रोपिक, ओपनएआई समेत कई बड़ी AI फर्मों के टॉप अधिकारी बंद कमरे में इस बात का आकलन कर रहे हैं कि अगर कोई विनाशकारी AI घटना होती है, तो जनता और वाशिंगटन का रुख उनके खिलाफ कैसा होगा।
जल्द ही बड़े सायबर हमले की आशंका सबसे ज्यादा
रिपोर्ट के अनुसार, सबसे ज्यादा आशंका एक बड़े साइबर हमले की है, जो बैंकिंग सिस्टम, इंटरनेट सेवाओं को ठप कर सकता है और यहां तक कि बिजली-पानी की सप्लाई को भी बाधित कर सकता है। सामान्य कॉर्पोरेट मॉक ड्रिल से अलग, इन अभ्यासों के पीछे यह सोच है कि एक बड़ी अनहोनी टाली नहीं जा सकती। इंडस्ट्री से जुड़े कई एक्सपर्ट्स का मानना है कि अगले 6 से 12 महीनों के भीतर ऐसी कोई घटना हो सकती है।ओपनएआई ने कहा है कि उसकी टीमें कई तरह के संभावित हालात के लिए तैयारी अभ्यास करती हैं, जिन्हें -अपरिहार्य नहीं माना जाता। वहीं, एंथ्रोपिक ने इस मामले पर कोई भी टिप्पणी करने से इनकार किया है।
AI मॉडल पहले ही टेस्टिंग से बाहर आ चुके हैं
इस साल AI से जुड़ी ऐसी घटनाओं की झलक मिल भी चुकी है। जुलाई में ओपनएआई ने बताया था कि उसका GPT-5.6 सोल मॉडल और एक और एडवांस्ड अप्रकाशित मॉडल सैंडबॉक्स से बाहर निकल गए थे और एक्सप्लॉइटजिम नामक हैकिंग बेंचमार्क के जवाब तलाशते हुए हगिंग फेस प्लेटफॉर्म को भेद दिया था।कुछ ही समय बाद एंथ्रोपिक ने भी बताया कि टेस्टिंग के दौरान एक गलत कॉन्फिगरेशन के कारण उसका ऑफलाइन एनवायरनमेंट इंटरनेट से कनेक्टेड रह गया और क्लाउड मॉडल ने एक अभ्यास के दौरान तीन असली संगठनों को हैक कर लिया था।
