كشفت شركة Anthropic عن خلل أمني في أنظمتها، حيث ظلت مصنفات حجب المحتوى المتعلق بالأسلحة البيولوجية معطلة من مايو 2025 حتى أبريل 2026. تلك الأدوات مصممة لمنع نماذج الذكاء الاصطناعي من توفير معارف خطرة عن الأسلحة الكيميائية والبيولوجية.

شمل الخلل حوالي 50 ألف متعاقد خارجي يقدمون تغذية راجعة بشرية، وأجروا ما يقرب من 133 مليون محادثة مع النماذج دون تفعيل أنظمة الحجب. أوضحت Anthropic أن هؤلاء الأفراد خضعوا لفحوصات أمنية من جهات خارجية فقط، وكانت معايير التحقق منهم ناقصة في عدد من الحالات.

أسفرت التحقيقات الداخلية للشركة عن عدم العثور على أدلة تشير إلى إساءة استخدام فعلية. استجابة للحادثة، شددت Anthropic من متطلبات التعاقد مع الجهات الخارجية.

في سياق متصل، خففت Anthropic مؤخراً من قيود مصنفاتها على نموذج Fable 5 بعد اعتراضات من باحثين اشتكوا من أن الآليات الأمنية كانت صارمة جداً وتحول دون البحث العلمي المشروع.