أطلقت منصة ميتا إعلانات ترويجية لأداة ذكاء اصطناعي باسم Kromix تتيح إنشاء فيديوهات إباحية مزيّفة تحاكي وجوه سياسيات أمريكيات، متجاهلة بذلك سياساتها الصارمة التي تحظر الإعلانات ذات المحتوى الجنسي. عرضت الإعلانات تطبيقًا يروّج لنفسه كأداة "تصميم صور ذكية" مع زعم عدم وجود قيود، وظهرت فيها امرأة تشبه سياسية بارزة أمريكية أمام العلم الأمريكي قبل أن تتحول المشاهد إلى محتوى إباحي مزيّف.
استضافت متجر تطبيقات أبل التطبيق المذكور قبل طلب التعليق من وسائل الإعلام، وكان يوفر للمستخدمين المدفوعين إمكانية تحميل صور لاستخدامها في سيناريوهات جنسية مختلفة. جرت إزالة الإعلانات بعد استفسار إعلامي مباشر، وقد استهدفت حصريًا المستخدمين الذكور ببطاقة "حرّر السحر الاصطناعي من الجيل الجديد"، وعملت الحملة على نشر 32 إعلانًا امتد بث معظمها من 5 إلى 46 ساعة.
أشار الباحثون إلى أن هذه الحادثة تثير تساؤلات حول قدرة ميتا على التعامل مع مثل هذا المحتوى، لا سيما عندما يستهدف شخصيات سياسية نساء بصفة خاصة. تعرضت السياسيات والمسؤولات لسنوات لصور وفيديوهات مزيّفة جنسية بدون موافقة، وتصاعدت الظاهرة مع تطور أدوات الذكاء الاصطناعي التي أتاحت للمستخدمين العاديين إنشاء محتوى ضار من صور رسمية وفيديوهات من مؤتمرات صحفية.
تؤكد ميتا أن نظامها يستعرض كل إعلان قبل نشره باستخدام أدوات آلية بشكل أساسي، غير أن الشركة أزالت 344 ألف إعلان متعلق بتطبيقات حذف الملابس بين نوفمبر الماضي ويناير الجاري. اعترفت الشركة بأن الإعلانات استخدمت صورًا غطاء بريئة مثل الشواطئ والجبال لإخفاء المحتوى الإباحي، وهي تكتيك معروف تستخدمه جهات خبيثة للتهرب من الكشف.
أزالت أبل التطبيق من متجرها، معلنة أنه بدا أنه أضاف محتوى محظورًا بعد الفحص الأولي، وأكدت حظرها الكامل لتطبيقات إنشاء أو نشر محتوى إباحي. كشفت تحقيقات سابقة أن ميتا سمحت ببث أكثر من 50 إعلانًا يحتوي على مواد إساءة جنسية لأطفال بين نوفمبر الماضي وأغسطس الحالي، وبعض هذه الإعلانات نُشرت بعد إعلان الشركة عن نشر تقنية ذكاء اصطناعي جديدة لكشف الإعلانات الضارة.
التعليقات (0)
لا توجد تعليقات بعد. كن أول المعلّقين.