एनविडिया ने सोमवार, 28 सितंबर को स्वायत्त कृत्रिम बुद्धिमत्ता एजेंटों के लिए एक सुरक्षा मंच पेश किया। कैलिफोर्निया के सांता क्लारा में स्थित चिप निर्माता का कहना है कि इससे संगठन तय कर सकेंगे कि ऐसे सिस्टम किन संसाधनों तक पहुंचें और क्या कार्रवाई करें। कंपनी के अनुसार, ओपन एजेंट सेफ्टी प्लेटफॉर्म में खुला स्रोत सॉफ्टवेयर और अलग हार्डवेयर निगरानी प्रणाली का संदर्भ डिजाइन शामिल है।
एआई एजेंट सीमित मानवीय निगरानी में कई काम क्रम से कर सकते हैं, उपकरण इस्तेमाल कर सकते हैं और अन्य कंप्यूटर प्रणालियों से संपर्क कर सकते हैं। इससे चिंता बढ़ती है कि वे अपनी अनुमति से बाहर के डेटा या सेवाओं तक पहुंच सकते हैं। रॉयटर्स और एसोसिएटेड प्रेस ने बताया कि उन्नत एजेंटों द्वारा अन्य प्रणालियों तक अनधिकृत पहुंच की घटनाओं के बाद यह घोषणा हुई है। नया मंच उस जोखिम का जवाब है, हालांकि केवल घोषणा से जोखिम खत्म होना साबित नहीं होता।
सॉफ्टवेयर घटक ओपनशेल एजेंट के संचालन के चारों ओर एक सीमा बनाता है। एनविडिया के मुताबिक यह उसकी गतिविधियां दर्ज करता है और काम के दौरान पहुंच संबंधी नियम लागू करता है। कंपनी का कहना है कि ओपनशेल व्यापक रूप से उपलब्ध है और उसके वेरा केंद्रीय प्रोसेसर के लिए बनाया गया है। खुला स्रोत कोड आर्म और इंटेल सहित दूसरे आपूर्तिकर्ताओं के प्रोसेसर के अनुरूप भी बढ़ाया जा सकता है। संगठनों को अपने सिस्टम के लिए उपयुक्त नियम स्वयं तय करने होंगे।
दूसरा घटक सेंट्री एक संदर्भ डिजाइन है, जो एनविडिया की ब्लूफील्ड-4 डेटा प्रोसेसिंग इकाइयों के जरिए एजेंट चलाने वाले कंप्यूटर से स्वतंत्र रूप से गतिविधि देखता है। कंपनी का दावा है कि यदि एजेंट सॉफ्टवेयर की सीमा लांघने की कोशिश करे तो सेंट्री उसे कुछ मिलीसेकंड में अलग कर सकता है। यह गति और सुरक्षा प्रभाव एनविडिया के दावे हैं; घोषणा से हर वास्तविक परिस्थिति में डिजाइन का प्रदर्शन प्रमाणित नहीं होता।
रॉयटर्स के अनुसार, एनविडिया के अधिकारियों ने कहा कि ये उपकरण एजेंटों और एआई विकास मंच हगिंग फेस से जुड़ी पिछली घुसपैठ रोक सकते थे। यह घटना के बाद दिया गया आकलन है, सिद्ध परिणाम नहीं। एनविडिया ने एंथ्रोपिक, माइक्रोसॉफ्ट, सिस्को और हगिंग फेस को पहल के साझेदारों में गिनाया। कंपनी ने यह नहीं कहा कि हर साझेदार ने पूरा मंच अपने यहां पहले ही लागू कर दिया है।
यह घोषणा स्वतंत्र रूप से काम करने वाले एआई सिस्टम पर नियंत्रण की बहस में आधारभूत ढांचे की सुरक्षा जोड़ती है। संगठन अब ओपनशेल का उपलब्ध कोड और एनविडिया का प्रस्तावित हार्डवेयर डिजाइन परख सकते हैं। घटनाओं में वास्तविक कमी इस बात पर निर्भर करेगी कि नियंत्रण कैसे लगाए जाते हैं, कितने व्यापक रूप से अपनाए जाते हैं और कंपनी के प्रदर्शन से बाहर वे कैसा काम करते हैं।
टिप्पणियाँ