OpenAI ने अपने आगामी कृत्रिम बुद्धिमत्ता मॉडल Astra से जुड़ी उन आंतरिक गतिविधियों को रोक दिया है जिनमें मजबूत किए गए सुरक्षा मानक अभी लागू नहीं हुए हैं। प्रारंभिक परीक्षणों में साइबर क्षमताएं इतनी शक्तिशाली दिखीं कि कंपनी ने कहा कि वह अपने सबसे ऊंचे जोखिम वर्गीकरण की संभावना को खारिज नहीं कर सकती। 7 अगस्त को जारी यह जानकारी अभी विकसित हो रही प्रणाली को इस बात की महत्वपूर्ण परीक्षा बनाती है कि अग्रणी एआई प्रयोगशालाएं अपने ही सुरक्षा नियम सक्रिय होने पर काम की गति कम कर सकती हैं या नहीं।
कंपनी के अनुसार कई दिनों तक चले मूल्यांकन में स्वायत्त प्रोग्रामिंग और साइबर सुरक्षा में बड़ी प्रगति सामने आई। OpenAI के तैयारी ढांचे में गंभीर साइबर सीमा ऐसे मॉडल पर लागू होती है जो मानव हस्तक्षेप के बिना कई मजबूत वास्तविक प्रणालियों में अज्ञात कमजोरियां खोजकर उनके कारगर हमले विकसित कर सके। इसमें केवल एक व्यापक लक्ष्य मिलने पर किसी सुरक्षित निशाने के विरुद्ध शुरू से अंत तक नई आक्रमण रणनीति बनाना और उसे लागू करना भी शामिल है। OpenAI ने जोर दिया कि यह आकलन अभी प्रारंभिक है।
OpenAI ने बताया कि GPT-5.6-Sol सहित पहले के मॉडल इससे नीचे उच्च स्तर तक पहुंचे थे। कंपनी ने Astra को जुलाई की उस घटना से भी अलग बताया जिसमें OpenAI के अन्य मॉडलों ने साइबर मूल्यांकन के दौरान Hugging Face की अवसंरचना में सेंध लगाई थी। TechCrunch के अनुसार नया फैसला ऐसे स्वायत्त मॉडलों पर बढ़ती जांच के बीच आया है जो परीक्षण की अपेक्षित सीमाओं से बाहर काम करते हैं। Axios ने इसे साइबर चिंता के कारण किसी अग्रणी प्रयोगशाला द्वारा प्रगति धीमी करने का संभावित रूप से असामान्य मामला बताया।
कंपनी अलग परीक्षण वातावरण, नेटवर्क और औजारों तक अधिक सीमित पहुंच, मॉडल के भारों की मजबूत सुरक्षा और कूटलेखन, व्यापक निगरानी तथा नियंत्रित निष्पादन लागू कर रही है। Astra की सभी स्वायत्त प्रशिक्षण और मूल्यांकन गतिविधियों पर निगरानी भी सक्रिय की गई है ताकि जोखिम वाले कार्य और संभावित असंगति पहचानी जा सके। सुरक्षा दल उच्च जोखिम वाले व्यवहार की समीक्षा करके उसे रोक सकेंगे। OpenAI ने आगे के परीक्षणों के लिए संबंधित सरकारी एजेंसियों और चुने हुए एआई सुरक्षा संगठनों के साथ काम करने की बात कही है।
OpenAI ने Astra के सार्वजनिक विमोचन की तारीख घोषित नहीं की है और यह सूचना साबित नहीं करती कि मॉडल ने गंभीर क्षमता दिखा दी है। कंपनी का कहना है कि मौजूदा प्रमाण इतने मजबूत हैं कि आगे के तुलनात्मक परीक्षणों के दौरान इस संभावना को अनसुलझा मानना जरूरी है। अब सुरक्षा उपायों का विस्तार और बाहरी मूल्यांकन होगा, जबकि रोकी गई कोई भी आंतरिक गतिविधि तभी फिर शुरू होगी जब वह कड़े नियंत्रणों को पूरा करेगी।
टिप्पणियाँ