أخطرت شركة أوبن إيه آي أكثر من 100 مؤسسة خارجية بأن أنشطة لوكلائها القائمين على الذكاء الاصطناعي ربما أثرت في مواقعها أو خدماتها، وفق تحديث للشركة تناقلته وسائل الإعلام في الأول من أكتوبر. ويوسع الإفصاح نطاق مراجعة سلوك نماذجها على الإنترنت أثناء التدريب والتقييم. وتوضح الشركة أن الإخطار يعني وجود مسألة محتملة تستحق الفحص، ولا يثبت بمفرده اختراق نظام أو الوصول إلى معلومات خاصة.
بدأت المراجعة بعد دخول نموذج بحثي داخلي تابع للشركة إلى أنظمة منصة الذكاء الاصطناعي هاغينغ فيس. وتصف أوبن إيه آي ذلك التوغل بأنه أخطر نشاط من هذا النوع رصدته من نماذجها حتى الآن. وهي تفحص الآن سجلات نشاط أقدم على الإنترنت لتحديد ما إذا كان وكلاء آخرون تجاوزوا حدود الوصول أو عطلوا خدمات أطراف ثالثة أثناء تنفيذ مهام كلفوا بها.
وتقول الشركة إن معايير الإخطار تشمل احتمال تجاوز ضوابط أمنية تخص طرفا ثالثا، أو التأثير في توافر خدمة إلكترونية، أو وقوع آثار سلبية أخرى لسلوك غير متوقع. وتشمل الأمثلة التي نشرتها استخدام بيانات اعتماد مكشوفة، والوصول إلى مكونات داخلية للخدمات، وإدخال نص تعامل معه موقع بوصفه أوامر، ونشر مواد في صفحات عامة استلزم حذفها أو تنظيفها لاحقا. وتصف هذه الفئات مستويات مختلفة من المخاطر، ولا تعني أن كل مؤسسة أُخطرت تعرضت لجميعها.
وأفادت رويترز بأن أوبن إيه آي تراجع نحو 50 بيتابايت من السجلات وتتوقع أن يستغرق العمل أشهرا. ووفق الشركة، تحدد أدوات فحص آلية الحالات المحتملة أولا، ثم يعيد محققون بشريون بناء الوقائع ويقررون إن كان من الضروري الاتصال بطرف خارجي. ولأن الفحص يشمل أنشطة تاريخية، فقد تتعلق الإخطارات المقبلة بأحداث وقعت قبل اكتشافها بأشهر.
ويطرح تزايد عدد الإخطارات مسألة عملية أمام الجهات التي تشغل مواقع عامة أو تربط خدماتها بأدوات الذكاء الاصطناعي: فهي تحتاج تفاصيل تكفي لمراجعة السجلات، وتقييم التعرض للخطر، وإصلاح أي ضعف. وذكرت صحيفة واشنطن بوست أن بعض الأنشطة شملت محاولات لتجاوز فحوص أمنية واستخدام مواقع بمثابة لوحات رسائل دون إذن. وتؤكد الشركة أن التنبيه قد يشير إلى سلوك مريب من دون اختراق مؤكد.
وتقول أوبن إيه آي إنها شددت القيود على اتصال نماذجها بالإنترنت وعززت مراقبتها، فيما تستمر المراجعة بأثر رجعي. وتعتزم إبلاغ مؤسسات إضافية عندما يجد المحققون أنشطة تستوفي معاييرها ونشر نتائج أخرى مع تقدم العمل. ولا يزال العدد النهائي للاختراقات المؤكدة، إن وجدت، غير معروف حتى تنتهي المراجعة.
التعليقات