طورت شركة Flock Safety مجموعة أدوات بحث تعتمد على الذكاء الاصطناعي تتيح لرجال الشرطة البحث عن الأشخاص في مقاطع الفيديو بناءً على وصف نصي، وليس فقط على لوحات ترخيص المركبات. تتضمن هذه الأدوات قائمة مراقبة آلية تسمح للضابط برسم منطقة جغرافية والبحث المستمر عن أي شخص يطابق وصفًا معينًا.

واجهت الشركة معارضة متزايدة خلال العام الماضي. ألغت أقسام شرطة في جميع أنحاء البلاد عقودها، وصوتت مجالس مدن لإزالة الكاميرات. أثار استخدام نائب في تكساس لمحرك البحث للبحث عن امرأة أجهضت في أكثر من 83 ألف كاميرا انتقادًا من عضوي كونجرس، واكتشفت إيلينوي أن الشركة سمحت لوكلاء الهجرة الفيدراليين بالوصول إلى بيانات الكاميرا انتهاكًا للقانون الولائي.

أعلنت Flock في أغسطس عن مجموعة تحسينات تتضمن تقليل فترة الاحتفاظ بالبيانات افتراضيًا وتطلب رموز قضايا لكل عملية بحث وتضيف تدقيقًا آليًا لرصد الاستخدام السيء. لكن تحليل الكود الذي أجرته Wired وجد أن هذه الحواجز قد تثني عن الإساءة وتسجلها، لكنها لن توقفها. كما أن أجزاء كبيرة من آليات البحث تعمل على خوادم الشركة خارج السيطرة الخارجية.

أكد خبراء أن نموذج الذكاء الاصطناعي لديها يقرر بشكل غير شفاف أي الأوصاف يمكن للضابط البحث عنها، وهذه مهمة لا تقوم بها أي تقنية بدقة موثوقة. لا يستطيع أحد خارج الشركة قياس معدل الأخطاء أو اتجاهاتها. كما أن النظام يعامل التعبير السياسي والثقافي بتساهل أكبر من الفئات الحساسة الأخرى مثل العرق والدين، وهو موقف ينتقده خبراء حقوق الدستور كتضارب مع الحماية الدستورية للتعبير.

سجلت تقارير عديدة حالات إساءة استخدام واضحة. في الأقل 50 ضابطًا أمريكيًا اتُهموا مؤخرًا بإساءة استخدام قارئات لوحات الترخيص، وتتعلق 46 حالة منها بـ Flock. في أكثر من نصف هذه الحالات، كانت الأهداف زوجات أو صديقات أو شركاء سابقين أو نساء يرغب الضابط في التعرف عليهن. تضمنت بعض الحالات المشهورة ضابطًا في ميلووكي بحث عن امرأة يواعدها 124 مرة وعن شريكها السابق 55 مرة.