أعلنت OpenAI الثلاثاء عن إطلاق ChatGPT for Teens، نسخة محمية بقيود عمرية من الروبوت الحواري موجهة للمستخدمين الصغار. يأتي هذا الإجراء بعد أكثر من عام على إعلان الشركة عزمها تطوير نظام لتحديد هوية المراهقين تلقائيًا وتقييد استخدامهم للمنصة، وذلك عقب وفاة مراهق اتُهم في دعوى قضائية بأن المنصة ساهمت في انتحاره.

ركزت OpenAI في بيانها على ميزات الحماية الجديدة، منها تقييد استخدام اللغة الرومانسية والاعتماد العاطفي، وإرسال إشعارات للوالدين عند اكتشاف محادثات تتعلق باضطرابات الأكل والإيذاء الذاتي. الشركة أيضًا دمجت ميزات تعليمية مثل وضع الدراسة والرسوم البيانية. إلا أن الجدل حول فعالية هذه الإجراءات لم يتوقف.

خبراء السلامة الذين تحدثوا مع وسائل إعلام متخصصة أجمعوا على ضرورة الاختبار المستقل الشامل قبل التوصية بالمنصة. طالبوا بشفافية أكبر بشأن آليات الحماية، وأشاروا إلى أن نظام الكشف التلقائي عن المراهقين قد لا يحقق دقة عالية، وأن المراهقين قد يلجؤون لتجاوزه عبر أدوات مثل الشبكات الافتراضية الخاصة. كما عبروا عن شكوكهم حول قدرة OpenAI على مراجعة ساعات المحتوى المشار إليه يوميًا من قبل موظفيها خلال ساعة واحدة كما تعهدت.

اختبار سابق أجرته منظمة متخصصة في سلامة الأطفال كشف أن إشعارات الوالدين استغرقت ما يصل إلى 48 ساعة أو أكثر، حتى عند إرسال رسائل تذكر الانتحار والإيذاء الذاتي بصراحة. وأشار الخبراء إلى تعقيد إضافي يتمثل في أن فهم طريقة حوار الأطفال عن الضغوط النفسية يتطلب حساسية ثقافية، خاصة أن المنصة عالمية والمراهقون حول العالم يتحدثون بطرق مختلفة.

فيما يتعلق باضطرابات الأكل تحديدًا، أجمع الخبراء على أهمية التعامل الجاد معها نظرًا لانتشارها الواسع، حيث أظهرت دراسة تحليلية حديثة أن 22 بالمائة من الأطفال والمراهقين أظهروا مؤشرات اضطراب أكل. لكن دعاة حماية الأطفال طالبوا بأن تُختبر هذه الميزات مع مجموعة محدودة أولًا والتحقق من تحسنها للنتائج الفعلية قبل النشر الواسع.