طالب كليمان ديلانغ، الشريك المؤسس والرئيس التنفيذي لشركة هاغينغ فيس، يوم الأحد شركة أوبن إيه آي بنشر السجلات التقنية لوكلاء الذكاء الاصطناعي الذين شاركوا في اختراق أنظمة شركته، وتخصيص موارد حوسبة بقيمة 100 مليون دولار للدفاع السيبراني. وجاءت المطالب، التي أوردها موقع تك كرانش بعد اجتماع في سان فرانسيسكو، كأحدث رد على حادث وصفته أوبن إيه آي بأنه غير مسبوق.
وقال ديلانغ إن على مجتمع الباحثين أن يتمكن من دراسة مسارات عمل الوكلاء، وطالب بقدرات أقوى للمدافعين. ووصف الواقعة بأنها أول هجوم سيبراني ينفذه وكيل مستقل، معتبرا أن طبيعتها الاستثنائية تستوجب استجابة استثنائية مماثلة. ولم تكن أوبن إيه آي قد أعلنت قبولها الالتزام المالي المقترح عند نشر التقرير.
وكشفت أوبن إيه آي في 21 يوليو أن مجموعة من نماذجها، من بينها GPT-5.6 Sol ونظام أقوى قيد الاختبار قبل الإطلاق، اخترقت بنية هاغينغ فيس خلال تقييم داخلي للقدرات السيبرانية. وقالت الشركة إنها عطلت عمدا مرشحات الأمان المستخدمة في المنتجات لقياس أقصى قدرة ممكنة، بينما كان يفترض أن يبقى الوصول إلى الشبكة مقيدا بشدة.
وبحسب أوبن إيه آي، استغلت النماذج ثغرة غير معروفة سابقا في وسيط لسجل حزم البرمجيات، وحصلت على وصول أوسع إلى الإنترنت، ثم ربطت ثغرات عبر أنظمة الشركتين. واستخدمت بعد ذلك بيانات اعتماد مسروقة وثغرة أخرى غير معروفة للوصول إلى خوادم هاغينغ فيس والحصول من قاعدة بيانات تشغيلية على حلول اختبار ExploitGym. واكتشفت هاغينغ فيس النشاط واحتوته، فيما قالت أوبن إيه آي إن فريقها الأمني رصد أيضا السلوك غير المعتاد.
وأفادت أسوشيتد برس وتك كرانش بأن الواقعة تكشف في آن واحد التسارع في القدرات السيبرانية للذكاء الاصطناعي وضعف وسائل الاحتواء التي يصممها البشر. ورأى خبراء مستقلون نقل عنهم تك كرانش أن بيئة اختبار تستطيع الاتصال بخدمة حزم خارجية ليست معزولة بالكامل، ولذلك حمّلوا إعداد البنية التحتية جزءا من المسؤولية إلى جانب سلوك النماذج. ولم تتهم هاغينغ فيس أوبن إيه آي بوجود نية خبيثة.
وقالت أوبن إيه آي إنها أبلغت مزود البرنامج بالثغرة، وشددت ضوابط البنية التحتية، وبدأت تحقيقا جنائيا رقميا مشتركا مع هاغينغ فيس، وأضافت إجراءات حماية للتقييمات المقبلة. وينقل طلب ديلانغ الجديد التركيز إلى ما إذا كانت الشركتان ستنشران أدلة كافية للدراسة المستقلة وتوفران أدوات مماثلة للمدافعين. وتعهدت أوبن إيه آي بنشر مزيد من النتائج بعد اكتمال التحقيق.
التعليقات