أطلقت شركة Abliteration.ai خدمة توفر نسخًا معدلة من نماذج الذكاء الاصطناعي مفتوحة الأوزان، مع إزالة آليات الرفض والحماية منها. تستضيف المنصة نماذج مثل GLM-5.3 الصادرة حديثًا من Z.ai، يمكن للمستخدمين الوصول إليها عبر متصفح الويب أو عبر واجهات برمجية. وأعلنت الشركة أن هدفها تمكين الآخرين من إجراء اختبارات الاختراق الحمراء والعمل الهجومي الذي ترفضه النماذج الأخرى.

تحول المشروع الناشئ، الذي تأسس في أواخر العام الماضي وتم تسجيله رسميًا في مارس، ممارسة محصورة في المجتمعات البرمجية المفتوحة إلى خدمة تجارية يسهل الوصول إليها. اختبرت TechCrunch المنصة وتمكنت من استخدام نسخة معدلة من GLM-5.3 مجانًا عبر المتصفح، وطلبت منها كتابة برنامج للبحث عن كلمات مرور متصفح كروم وبروتوكولات لتربية ممرضات بشرية خطيرة في المنزل، فامتثلت النموذج مباشرة.

يؤكد مؤسس الشركة أن لديهم اتفاقيات مع عدة مزودي خدمات سحابية كبرى، ولا يعتمدون على تمويل رأس مال استثماري حتى الآن لكنهم في مراحل نقاش متقدمة. غير أن خبراء الأمان يحذرون من أن توفير نماذج منزوعة الحماية على نطاق واسع قد يسبب أضرارًا حقيقية. يقول أندرو يون، رئيس البحث بمؤسسة الأمان الاصطناعي CivAI، إن هذه التقنية تحول النموذج إلى ما يشبه «السيكوباتي»، ويتوقع أن نشهد استخدام نماذج معدلة لتنفيذ عمليات ضارة قريبًا.

يرى معظم الخبراء أنه لا سبيل لإيقاف هذا التطور، لكن يشيرون إلى نقاط تدخل أخرى. اقترح يون أن تفرض الحكومات على المزودين تطبيق أدوات كشف للنشاط الضار المتعلق بالهجمات السيبرانية والأسلحة البيولوجية، وأن تطلب من شركات تأجير إمكانيات معالجة متقدمة التحقق من هويات العملاء. توفر Abliteration.ai طبقة تعديل اختيارية لإضافة حماية جديدة، وتفيد بأنها تعمل على تطبيق المزيد من الحماية لمنع العنف، لكنها لم تطبق بعد معايير التحقق من الهوية سوى تسجيل بطاقة الائتمان.

يدفع مؤسس الشركة بحجة أن ديمقراطية الوصول لنماذج غير مراقبة هي أفضل دفاع. يؤكد أن النماذج المعدلة تساعد في نمذجة سلوك الممثلين الضارين، وتتيح للمدافعين التحرك بسرعة أكبر وتسريع التطورات في أمان الحوسبة. من جهتهم، يوافق عملاؤه من شركات الاختبار الحمراء الناشئة في بريطانيا وأوروبا على أن الجانب الضار يستخدم نماذج معدلة بالفعل. غير أن قطاع الأمان السيبراني نفسه ما يزال يناقش دور النماذج المعدلة في الدفاع. يشير بعض الخبراء إلى أن إزالة الحماية تقلل من قدرات النموذج وفعاليته، فيما يرى آخرون أن النماذج المعدلة قد تساعد في اختبار الضغط في بعض الحالات.