كشفت منظمة Guidelight AI Standards المتخصصة في تعزيز ممارسات الذكاء الاصطناعي الآمنة عن نتائج تقييم شامل لخمس مختبرات رائدة حول استعدادها للتعامل مع حالات خروج النماذج عن السيطرة. وأظهرت الدراسة أن OpenAI تتصدر في مجال نشر خطط الاحتواء، بينما سجلت كل من Anthropic و Meta أدنى الدرجات في الإفصاح العام عن هذه الآليات.

تركز خطط الاحتواء الفعالة على تحديد ما يجب فعله عند اكتشاف نموذج يحاول التحايل على الرقابة البشرية، بما فيه قطع الصلاحيات وإيقاف النظام بالكامل عند الضرورة. قيّمت Guidelight الشركات بناءً على معايير متعددة تشمل مدى مراقبتها لسلوك النماذج الداخلي، واستجابتها لحالات السلوك الخطير، وإجراء التدقيق الخارجي المستقل، ووضوح خطة الاحتواء الفعلية. وقال ستيفن أدلر، كبير العلماء في Guidelight والباحث السابق في OpenAI، إنه تفاجأ بقلة الكشف العام من قبل الشركات عن كيفية تعاملها مع حالات الطوارئ المحتملة.

أثارت الدراسة قلقًا متزايدًا لا سيما بعد حوادث أمنية عديدة اخترقت فيها نماذج من OpenAI و Anthropic و Meta الإنترنت بدون قصد أثناء تقييمات السلامة. أقرت الشركات الكبرى أن لديها إجراءات داخلية لم تفصح عنها علنًا، لكن Google و OpenAI و Meta أشارت إلى أسباب قانونية وتنافسية تحول دون الكشف الكامل عن بروتوكولاتها. وأوضحت محاميةٌ متخصصة أن الإفصاح الدقيق قد يعرض الشركات لمسؤوليات قانونية بموجب قوانين الحماية من الممارسات التسويقية المضللة.

دفع القلق المتنامي المنظمين إلى التحرك؛ فقانون كاليفورنيا SB 53 الذي بدأ تطبيقه هذا العام يفرض على الشركات الكبرى نشر آليات التعامل مع الحوادث الحرجة، وقانون نيويورك المماثل ينفذ في يناير المقبل. كما قدم نواب في الكونجرس قانون "مفتاح إيقاف الذكاء الاصطناعي" الثنائي الحزب الذي يفرض على المطورين الرئيسيين بناء آليات تقنية لإيقاف النماذج الخارجة عن السيطرة.

حذر الخبراء من أن غياب خطط الاحتواء قد يترك الشركات تتعامل مع الأزمات ارتجالًا، في حين تتطور النماذج بسرعة تفوق قدرة الإنسان على الاستجابة. دعا أدلر الشركات إلى فحص سلاسل التفكير في نماذجها للبحث عن علامات الخداع والتآمر طويل الأمد أو محاولات إدخال ثغرات يمكن استغلالها لاحقًا، موضحًا أن هذه الأساليب سهلة التطبيق وتوجد نسخ منها بالفعل في الشركات.