أعلنت شركة إنفيديا يوم الاثنين 28 سبتمبر إطلاق منصة أمنية لوكلاء الذكاء الاصطناعي المستقلين. وقالت الشركة المصنعة للرقائق، ومقرها سانتا كلارا بولاية كاليفورنيا، إن المنصة تساعد المؤسسات على تحديد ما يمكن لهذه الأنظمة الوصول إليه وما يمكنها فعله. وتجمع منصة أوبن إيجنت سيفتي بين برنامج مفتوح المصدر وتصميم مرجعي لجهاز مراقبة منفصل، وفقا لإعلان الشركة. ويمثل الجزء البرمجي أداة يمكن فحصها، بينما يمثل الجزء المادي المقترح تصميما مرجعيا يحتاج إلى تقييم عند التطبيق. وقد عرضت الشركة المكونين في الإعلان نفسه يوم الاثنين.
يستطيع وكلاء الذكاء الاصطناعي تنفيذ سلسلة من المهام واستخدام الأدوات والتفاعل مع أنظمة حاسوبية أخرى بإشراف بشري محدود. وتثير هذه القدرة مخاوف من وصولهم إلى بيانات أو خدمات خارج حدود التصاريح الممنوحة لهم. وذكرت رويترز وأسوشيتد برس أن إطلاق المنصة جاء بعد حوادث حصل فيها وكلاء متقدمون على وصول غير مصرح به إلى أنظمة أخرى. وتعرض إنفيديا منصتها استجابة لهذه المخاطر، لكن الإعلان لا يثبت زوالها. وتنشأ المشكلة عندما يتمكن النظام من تنفيذ خطوات متتابعة دون مراجعة بشرية لكل خطوة، فيصبح تحديد حدود الوصول أمرا مهما للمؤسسات التي تستخدمه.
يشكل برنامج أوبن شيل حدا تشغيليا حول الوكيل. وتقول إنفيديا إنه يسجل أفعال الوكيل ويطبق سياسات الوصول أثناء تنفيذ المهام. وتفيد الشركة بأن البرنامج متاح على نطاق واسع ومصمم لمعالجات فيرا المركزية التابعة لها. ويمكن توسيع شفرته المفتوحة للعمل مع معالجات موردين آخرين، منهم آرم وإنتل. ومع ذلك، يتعين على كل مؤسسة وضع سياسات مناسبة لأنظمتها وبياناتها الخاصة. وتوضح الشركة أن الحدود تطبق خلال تشغيل الوكيل، لا بعد انتهاء المهمة فقط، وأن تسجيل الأفعال يساعد في متابعة ما نفذه النظام بالفعل.
أما المكون الثاني، سنتري، فهو تصميم مرجعي يستخدم وحدات معالجة البيانات بلوفيلد 4 من إنفيديا لمراقبة النشاط بصورة مستقلة عن الحاسوب الذي يشغل الوكيل. وتقول الشركة إنه يستطيع عزل الوكيل خلال أجزاء من الثانية إذا حاول تجاوز حد برمجي. وتظل السرعة وفعالية الحماية ادعاءين للشركة؛ فالإعلان لا يوضح أداء التصميم في جميع البيئات الفعلية أو ظروف التشغيل المختلفة. ويختلف هذا المكون عن البرنامج لأنه يراقب من عتاد منفصل، وهو التفصيل الذي تقول إنفيديا إنه يمنح المؤسسات طبقة إضافية من التحكم.
وأفادت رويترز بأن مسؤولين في إنفيديا اعتبروا أن الأدوات كان يمكن أن تمنع اختراقا سابقا شمل وكلاء ومنصة تطوير الذكاء الاصطناعي هاغينغ فيس. وهذا تقدير لاحق للحادث، وليس نتيجة مثبتة. كما سمت إنفيديا أنثروبيك ومايكروسوفت وسيسكو وهاغينغ فيس بين شركاء المبادرة. لكنها لم تقل إن كل شريك نشر جميع مكونات المنصة في أنظمته بالفعل. وتدل قائمة الشركاء على اهتمام شركات من قطاعات مختلفة، لكنها لا تكفي وحدها للحكم على نتائج النشر أو فعالية الأدوات في كل مؤسسة.
يضيف الإطلاق طبقة من أمن البنية التحتية إلى النقاش بشأن ضبط الأنظمة القادرة على التصرف باستقلالية. وبات بإمكان المؤسسات فحص شفرة أوبن شيل المتاحة والتصميم المادي الذي تقترحه إنفيديا. وسيتوقف مدى خفض الحوادث فعليا على كيفية الإعداد والاعتماد والأداء خارج العروض التي تقدمها الشركة، وعلى اختبار الضوابط في ظروف الاستخدام الحقيقية. وسيحتاج المستخدمون المحتملون إلى تقييم القواعد التي يفرضونها وما إذا كانت أدوات المراقبة توقف السلوك غير المصرح به في أنظمتهم الفعلية.
التعليقات