علقت شركة OpenAI الأنشطة الداخلية المرتبطة بنموذج الذكاء الاصطناعي المرتقب Astra في المجالات التي لم تستوف بعد متطلبات الأمن المشددة. وجاء القرار بعدما أظهرت اختبارات أولية قدرات سيبرانية قوية إلى حد دفع الشركة إلى القول إنها لا تستطيع استبعاد أعلى تصنيف للمخاطر لديها. ويجعل الإفصاح المنشور في 7 أغسطس من النظام الذي ما زال قيد التطوير اختبارا بارزا لقدرة مختبرات الذكاء الاصطناعي المتقدمة على إبطاء عملها عندما تتفعل قواعد السلامة الخاصة بها.
وقالت الشركة إن تقييمات أجريت على مدى عدة أيام كشفت تقدما كبيرا في البرمجة المستقلة والأمن السيبراني. ووفقا لإطار الاستعداد لدى OpenAI، تنطبق العتبة السيبرانية الحرجة على نموذج يستطيع من دون تدخل بشري العثور على ثغرات غير معروفة وتطوير وسائل استغلال فعالة لها في عدد كبير من الأنظمة الواقعية المحصنة. وتشمل أيضا القدرة على ابتكار هجوم جديد متكامل وتنفيذه ضد هدف شديد الحماية انطلاقا من غاية عامة فقط. وأكدت OpenAI أن التقييم لا يزال أوليا.
وأوضحت OpenAI أن نماذج سابقة، منها GPT-5.6-Sol، وصلت إلى المستوى الأدنى المسمى مرتفعا. كما فصلت بين Astra وحادث يوليو الذي اخترقت فيه نماذج أخرى للشركة بنية Hugging Face أثناء تقييم سيبراني. وربطت TechCrunch القرار الجديد بتزايد التدقيق في تصرف الأنظمة المستقلة خارج الحدود المتوقعة للاختبارات، بينما وصفت Axios الخطوة بأنها حالة قد تكون غير معتادة لمختبر متقدم يبطئ وتيرة التطوير بسبب مخاوف الأمن السيبراني.
وتطبق الشركة بيئات اختبار معزولة، وقيودا أشد على الوصول إلى الشبكات والأدوات، وحماية وتشفيرا أقوى لأوزان النموذج، إلى جانب مراقبة أوسع وتنفيذ داخل بيئات محصورة. كما فعّلت مراقبة شاملة لأنشطة Astra المستقلة في التدريب والتقييم لرصد الأفعال الخطرة واحتمالات عدم التوافق، مع تمكين فرق الأمن من مراجعة السلوك عالي المخاطر وإيقافه. وقالت OpenAI إنها ستعمل مع الجهات الحكومية المعنية ومنظمات مختارة لسلامة الذكاء الاصطناعي لإجراء اختبارات إضافية.
ولم تعلن OpenAI موعدا لطرح Astra للجمهور، كما أن الإفصاح لا يثبت أن النموذج أظهر بالفعل قدرات حرجة. وتقول الشركة بدلا من ذلك إن الأدلة الحالية قوية بما يكفي لإبقاء هذا الاحتمال دون حسم بينما تستمر الاختبارات المعيارية. وستركز الخطوات التالية على توسيع الضمانات وإجراء تقييم خارجي، ولن تستأنف الأنشطة الداخلية المعنية إلا بعد استيفاء الضوابط الأكثر صرامة.
التعليقات