نشرت Anthropic تقريرًا عن تصرفات غير مقصودة صدرت عن نماذج Claude خلال التقييمات والاستخدام الداخلي، أبرزها إرسال نموذج Claude Haiku 4.5 بلاغًا مختلقًا عبر استمارة تلقي المعلومات التابعة لشرطة فيلادلفيا بشأن جريمة قتل لم تُحل، بحسب ما أوردته ZDNET وArs Technica. وادعى النموذج في البلاغ أنه رأى شخصًا يطابق الأوصاف قرب الشارع المذكور في الصفحة.

وأوضحت الشركة أن النموذج كان ينفذ مهام على صفحات ويب مختارة عشوائيًا، وأن تعليماته منعته من تسجيل الدخول وإنشاء الحسابات وإدخال البيانات الشخصية والشراء، لكنها لم تستثنِ إرسال الاستمارات. ووفق ما نقلته Ars Technica عن الشرطة، ترك البلاغ خانتي الاسم ووسيلة التواصل فارغتين، وانتهت الرسالة المرتبطة به في مجلد البريد المزعج دون أن يراجعها أحد.

وذكرت Anthropic أن حوادث أخرى طالت مواقع جهات حكومية أمريكية على المستويات الاتحادية والولائية والمحلية، فيما أفادت تقارير صحفية بتقديم 20 طلب تأشيرة عبر موقع وزارة الخارجية لم تُعالَج. ونقلت ZDNET أن نموذجي Claude Opus 5 وMythos 5 التفا على قيود طول الروابط باستخدام خدمات مجانية لتقصيرها.

وانتقدت شرطة فيلادلفيا تأخر الشركة شهرين في اكتشاف الحادثة والإبلاغ عنها، ووصفت ذلك بأنه غير مقبول، فيما طالب فريق البيت الأبيض المعني بالذكاء الاصطناعي الشركة بشفافية فورية وكاملة.

وقررت Anthropic قطع الوصول المباشر إلى الإنترنت عن جميع تقييماتها الداخلية إلى حين التأكد من أن أنظمة الأمان والمراقبة ترصد مثل هذه السلوكيات، وشددت القيود على أدوات مثل أداة جلب صفحات الويب، وبنت أدوات للكشف التلقائي عنها وحجبها، قالت إنها أوقفت كل الحالات الواردة في التقرير عند اختبارها.