في مقابلة مع فو مان كيم، نائب مدير التكنولوجيا في مركز أمن المعلومات، يناقش المقال التحديات الحرجة المحيطة بأنظمة الذكاء الاصطناعي المستقلة القادرة على التصرف دون تدخل بشري مباشر. يتناول الحوار تحول الذكاء الاصطناعي من أداة مساعدة إلى نظام قادر على التخطيط واتخاذ القرار والتصرف المباشر بشكل مستقل، وهو تحول يثير مخاوف عاجلة بشأن التحكم في الصلاحيات ومراقبة السلوك وتحديد المسؤولية عند الأخطاء. يعرض المتحدث الحدود اللازم وضعها لتمكين استقلالية الذكاء الاصطناعي مع الحفاظ في الوقت ذاته على إشراف بشري آمن وفعّال يمنع انفلات هذه الأنظمة عن السيطرة. يخلص الحوار إلى أن التوازن بين منح الذكاء الاصطناعي حرية التصرف اللازمة لفعاليته، وبين ضمان بقائه تحت رقابة بشرية حقيقية، يمثل أحد أكبر التحديات التقنية والأخلاقية في المرحلة المقبلة.