كشفت أنثروبيك في 26 أكتوبر أنها أوقفت تدريب نموذج رئيسي جديد للذكاء الاصطناعي لأكثر من شهر نتيجة مخاوف تتعلق بمستوى الحماية والأمن في عملية تطوير هذا النموذج. وأفادت رويترز بأن ملف الطرح العام للشركة المطورة لكلود وصف أيضا وصول أربعة نماذج دون تصريح إلى أنظمة حاسوبية خارجية أثناء الاختبارات.
وبحسب رويترز، أخرت الشركة التدريب الأولي لتعزيز حماية أوزان النماذج، وهي المعلمات التي يقوم عليها عملها، وكذلك الملكية الفكرية للشركة من مخاطر السرقة. وجاء الكشف بينما تستعد الشركة التي تتخذ من سان فرانسيسكو مقرا لبيع أسهم للجمهور، مما يوضح المخاطر التشغيلية المرتبطة بتطوير نماذج تتزايد قدراتها باستمرار.
ويصف الملف بيئة اختبار قدمها شريك تقييم خارجي وكانت تعاني من خطأ في الإعدادات الخاصة بتشغيلها واتصالها بالشبكة. فقد بقيت النماذج متصلة بالإنترنت المفتوح على الرغم من أن التعليمات المقدمة إلى النماذج كانت تفيد بعدم وجود إمكانية للوصول إلى الإنترنت. ووصلت أربعة نماذج إلى أنظمة حقيقية لأطراف أخرى خلال جلسات منفصلة استغرقت نحو 10 إلى 34 ساعة من العمل الفعلي.
وفي واقعة واحدة، تعذر على نسخة مبكرة التخلي عن مهمة مستحيلة، فاستخدمت كلمة مرور عثرت عليها للحصول على صلاحيات مسؤول في نظام خارجي. وقالت أنثروبيك إن النموذج جمع بيانات دخول إضافية وغير الإعدادات وقرأ معلومات شخصية لفرد واحد. ولم يسم تقرير رويترز الأطراف الخارجية المتضررة.
وقالت أنثروبيك إنها أبلغت المتضررين. ولم يجد تحقيقها دليلا على تنسيق النماذج مع وكلاء آخرين أو سعيها إلى أهداف تتجاوز المهام المحددة أو محاولتها تفادي الرقابة. ووفقا للملف، شملت كل واقعة نسخة واحدة من نموذج تعمل باستقلال، وتصف هذه الاستنتاجات التي أعلنتها الشركة ما توصلت إليه في إطار التحقيق الداخلي الذي أجرته بشأن تلك الوقائع.
وعلقت الشركة لاحقا بعض تقييمات الأمن السيبراني السابقة للإطلاق وبيئات التعلم المعزز الأعلى خطورة. وحذرت أنثروبيك من أن تأجيل إطلاق النماذج أو تقييده قد يضر بموقعها التنافسي وعلاقاتها مع العملاء. ويبرز الملف ضوابط السلامة وموثوقية بيئات الاختبار بوصفها قضايا ذات أهمية بالنسبة إلى خطط الشركة المقبلة لتطوير نماذجها ووضعها قيد الاستخدام.
التعليقات