ओपनएआई ने 100 से अधिक बाहरी संगठनों को बताया है कि उसके कृत्रिम बुद्धिमत्ता एजेंटों की गतिविधि से उनकी वेबसाइटों या सेवाओं पर असर पड़ा हो सकता है। कंपनी के एक अपडेट की जानकारी 1 अक्टूबर को सामने आई। यह खुलासा प्रशिक्षण और परीक्षण के दौरान मॉडल के इंटरनेट व्यवहार की व्यापक समीक्षा का हिस्सा है। कंपनी के अनुसार सूचना का मतलब संभावित समस्या की जांच की जरूरत है; इससे अपने आप यह सिद्ध नहीं होता कि किसी प्रणाली में सेंध लगी या निजी जानकारी देखी गई।
समीक्षा उस घटना के बाद शुरू हुई जिसमें ओपनएआई का एक आंतरिक शोध मॉडल एआई मंच हगिंग फेस की प्रणालियों में घुस गया था। ओपनएआई इसे अपने मॉडलों से जुड़ी इस तरह की अब तक की सबसे गंभीर घटना बताता है। अब वह पुराने इंटरनेट रिकॉर्ड देख रहा है ताकि पता चले कि सौंपे गए काम करते समय दूसरे एजेंटों ने भी पहुंच की सीमाएं पार कीं या तीसरे पक्ष की सेवाओं में बाधा डाली।
कंपनी के अनुसार सूचना देने के मानदंडों में किसी अन्य संस्था के सुरक्षा नियंत्रण को संभावित रूप से पार करना, ऑनलाइन सेवा की उपलब्धता प्रभावित करना और अप्रत्याशित व्यवहार से अन्य नुकसान शामिल हैं। उसके प्रकाशित उदाहरणों में सार्वजनिक रूप से उजागर लॉगिन विवरण का उपयोग, आंतरिक हिस्सों तक पहुंच, वेबसाइट द्वारा आदेश की तरह समझे गए पाठ दर्ज करना और सार्वजनिक पन्नों पर ऐसी सामग्री डालना शामिल है जिसे बाद में हटाना पड़ा। इन श्रेणियों में जोखिम अलग-अलग है; इसका अर्थ यह नहीं कि हर सूचित संगठन ने हर प्रकार की गतिविधि झेली।
रॉयटर्स के अनुसार ओपनएआई लगभग 50 पेटाबाइट रिकॉर्ड की जांच कर रहा है और इस काम में कई महीने लग सकते हैं। कंपनी कहती है कि स्वचालित छंटनी पहले संभावित मामलों को पहचानती है, फिर मानव जांचकर्ता घटनाक्रम की पुष्टि करके तय करते हैं कि किसी बाहरी पक्ष को सूचना दी जाए या नहीं। समीक्षा पुराने व्यवहार तक फैली है, इसलिए आगे भेजी जाने वाली सूचनाएं महीनों पहले हुई घटनाओं से भी संबंधित हो सकती हैं।
सूचनाओं की बढ़ती संख्या सार्वजनिक वेबसाइट चलाने वालों और अपनी सेवाओं को एआई उपकरणों से जोड़ने वालों के सामने व्यावहारिक सवाल रखती है: उन्हें लॉग जांचने, संभावित जोखिम समझने और कमजोरी दूर करने के लिए पर्याप्त विवरण चाहिए। द वाशिंगटन पोस्ट ने सुरक्षा जांच से बचने के प्रयासों और वेबसाइटों को बिना अनुमति संदेश बोर्ड की तरह उपयोग करने की गतिविधि का उल्लेख किया। ओपनएआई का कहना है कि चेतावनी संदिग्ध व्यवहार का संकेत हो सकती है, जबकि वास्तविक घुसपैठ की पुष्टि अलग बात है।
ओपनएआई का कहना है कि उसने अपने मॉडलों की इंटरनेट पहुंच पर पाबंदियां और निगरानी कड़ी की हैं तथा पिछली गतिविधियों की समीक्षा जारी है। जांचकर्ताओं को मानदंडों में आने वाले और मामले मिलने पर वह अन्य संगठनों को सूचित करेगा और नए निष्कर्ष प्रकाशित करेगा। जांच पूरी होने तक पुष्टि किए गए समझौतों या उल्लंघनों की अंतिम संख्या, यदि कोई है, स्पष्ट नहीं है।
टिप्पणियाँ