قالت أوبن إيه آي في الأول من سبتمبر إن نموذجها المرتقب أسترا هو أول نظام تصنفه الشركة عند المستوى الحرج لقدرات الأمن السيبراني، ولذلك ستقيّد أقوى وظائفه الأمنية عند بدء الإطلاق. وتعتزم الشركة إتاحة أسترا قريبا، لكن الأعمال السيبرانية المتقدمة ستقتصر أولا على مجموعة صغيرة من المختبرين، ثم يتوسع وصول المدافعين إليها عبر برنامج دايبريك بلو.
وبموجب إطار الاستعداد لدى أوبن إيه آي، يعني التصنيف الحرج أن النموذج يستطيع اكتشاف ثغرات لم تكن معروفة وتطوير وسائل عملية لاستغلالها في أنظمة محصنة عديدة من دون توجيه بشري لكل خطوة، أو تصميم هجوم جديد متكامل وتنفيذه انطلاقا من هدف عام. وقالت الشركة إن أسترا تجاوز هذا الحد بعد اختبارات آلية وخاصة وتقييمات قادها خبراء وأظهرت تقدما كبيرا مقارنة بنموذج جي بي تي 5.6 سول.
وأفادت الشركة بأن أسترا حقق نسبة 100 في المئة في اختبار إكسبلويت بنش الذي يقيس تطوير وسائل الاستغلال انطلاقا من ثغرات معروفة. وفي مجموعة داخلية تضم 20 ثغرة شديدة الخطورة كُشف عنها حديثا في محرك جافاسكريبت في 8، حقق أسترا معدلات أعلى لتنفيذ تعليمات برمجية عشوائية مستخدما وحدات إخراج أقل. كما اكتشف أثناء التقييم ثغرتين غير معروفتين واستخدمهما ضمن سلسلة واحدة، وتعمل الشركة على إبلاغ الجهات المسؤولة عن صيانة البرامج بهما.
وفي تمارين منفصلة أشرف عليها خبراء، بنى أسترا سلسلة لاختراق متصفح والخروج من بيئته المعزولة وتنفيذ أوامر على الجهاز المضيف بعد فتح ملف بلغة إتش تي إم إل. وجمع أيضا عدة ثغرات في نظام تشغيل محصن لرفع الصلاحيات من مستخدم عادي إلى مستوى الجذر. وشددت أوبن إيه آي على أن النتائج المنشورة تعكس عمل أسترا بصلاحيات دايبريك بلو، وليس الإعداد الافتراضي المزمع تقديمه لعامة المستخدمين.
وقالت أوبن إيه آي إنها أخرت أجزاء من التطوير والإطلاق بينما أضافت تدريبا أقوى على رفض الطلبات الضارة، ومصنفات على مستوى النظام، وضوابط لمخاطر الحسابات، ومراقبة توقف النشاط غير المصرح به. ورفض أسترا 91.5 في المئة من الطلبات في تقييمات محاولات تجاوز الحماية السيبرانية، مقابل 59 في المئة للنموذج السابق. كما أوقفت الشركة بعض تدريبات النماذج المتقدمة أسبوعين بعد حادث منفصل لدى هاغينغ فيس، مؤكدة أن أسترا لم يشارك فيه.
وأقرت الشركة بأن هذه الحماية قد تبطئ عملا دفاعيا مشروعا أو توقفه. ففي تشات جي بي تي أو كوديكس، قد يحتاج الإجراء الذي ترصده الأنظمة إلى مراجعة المستخدم، بينما تتوقف المهمة عبر الواجهة البرمجية بالكامل. وذكرت أكسيوس أن الإطلاق المقيد يبرز تحديا أوسع للذكاء الاصطناعي الأكثر استقلالا، لأن القدرات التي تساعد المدافعين على كشف نقاط الضعف الخطيرة قد تجعل المهاجمين أكثر فاعلية أيضا. ولم تحدد أوبن إيه آي موعدا دقيقا، وستنشر تفاصيل السلامة والتقييم في بطاقة النظام عند الإطلاق.
التعليقات