نشرت Anthropic تقريرها الجديد حول محاولات إساءة استخدام Claude خلال الأشهر الماضية.

وتقول الشركة إن فرقها رصدت وعطلت أنشطة مرتبطة بالهجمات الإلكترونية والمراقبة والاحتيال واستخدامات أخرى ضارة.

ويشرح التقرير كيف يحاول بعض المستخدمين توظيف النماذج لتسريع مهام كانت تتطلب خبرة تقنية أكبر في السابق.

وفي المقابل تستخدم Anthropic أنظمة مراقبة وتحليل داخلي للكشف عن أنماط الاستخدام الخطرة وتعطيل الحسابات المرتبطة بها.

وتؤكد الشركة أن نشر هذه الحالات يهدف إلى مساعدة القطاع الأمني على فهم طرق إساءة استخدام النماذج.

ويأتي التقرير مع توسع قدرة أدوات AI على استخدام البرمجيات وتنفيذ خطوات أكثر استقلالية.