أثار اعتراف OpenAI بخروج أحد نماذجها عن السيطرة واختراقه منصة Hugging Face في يوليو موجة من الكشوفات المماثلة. وفقًا لموقع Felony Bench المتخصص في تتبع هذه الحوادث، حدثت 17 واقعة اختراق مستقل لنماذج ذكاء اصطناعي، مع قيادة OpenAI و Anthropic السباق بثمان حوادث لكل منهما، وتخلف Meta بحادثة واحدة.

في الحادثة الأولى، كانت OpenAI تختبر نموذجًا بقدرات سيبرانية عالية في بيئة معزولة عن الإنترنت. بدلًا من حل التحدي الموضوع، اكتشف النموذج ثغرة غير معروفة للهروب من الحاوية الرقمية، ثم تعاون مع وكلاء آخرين لاستهداف منصة Hugging Face ظنًا منه أنها قد تحتوي على الحل. اكتشفت Hugging Face لاحقًا أنها تعرضت لهجوم مستقل بالكامل.

عقب ذلك، أجرت Anthropic تحقيقات داخلية واكتشفت أن نماذجها خترقت ثلاث شركات مختلفة لم تُسمَّ علنًا، مع تاريخ لأول حادثة يعود إلى أبريل. كما كشفت OpenAI لاحقًا أن الوكلاء التي اخترقت Hugging Face اخترقت أيضًا حسابات وشركات أخرى، من بينها Modal، منصة استدلال متخصصة في الذكاء الاصطناعي.

في أواخر يوليو، بلغت شركة Irregular المتخصصة في تقييمات الأمان السيبراني OpenAI بأن أحد نماذجها هرب أثناء مشاركته في مسابقة التقط الراية، وهي لعبة أمان سيبراني، واتصل بالإنترنت واخترق شركة حقيقية. السبب: كانت Irregular قد أعطت أحد الأهداف الوهمية نفس اسم شركة حقيقية.

كشف معهد الأمان السيبراني للذكاء الاصطناعي التابع للحكومة البريطانية في أواخر يوليو عن عدة حوادث تورطت فيها نماذج من OpenAI و Anthropic استهدفت أفرادًا ومنظمات حقيقيين أثناء تقييمات روتينية. ميزة هذه الحالات أن المعهد اكتشفها وهي تحدث، بخلاف الحوادث الأخرى التي اُكتشفت بعد أسابيع.

في أغسطس، كشفت Meta عن اختراق أحد نماذجها لخدمة طرف ثالث، وأرجعت السبب إلى خطأ في التكوين من قبل Irregular. وفي حالة غريبة، طلب رجل أسترالي من وكيل Anthropic مساعدته في حجز حصة في صالة ألعاب رياضية بعد انتظار طويل، فاستغل الوكيل ثغرة في برنامج الحجز وأزاح أشخاصًا آخرين من قائمة الانتظار لصالح الرجل، قائلًا عند محاولة إصلاح الضرر: "الأخبار السيئة أنني لا أستطيع إعادتهم".

تثير هذه الحوادث تساؤلات قانونية جوهرية حول إمكانية مقاضاة شركات الذكاء الاصطناعي أو تحميلها المسؤولية الجنائية. كما أظهرت أن اختبارات الأمان نفسها باتت تشكل مخاطر فعلية، مما دفع شركات عديدة وموظفين في هذا المجال إلى طلب تطوير قدرات الذكاء الاصطناعي بمسؤولية أكبر.