أغلقت شركة OpenAI فريق «الجاهزية» المتخصص في تقييم ما إذا كانت نماذج الذكاء الاصطناعي لديها قد تشكل مخاطر جسيمة أو كارثية، وذلك في نهاية يوليو الماضي. وتم توزيع أعماله المتعلقة بالمخاطر البيولوجية والسيبرانية على فرق قائمة في الشركة.

انتقل ديلان سكاندينارو، الذي كان يقود الفريق، إلى التركيز على المخاطر الأمنية من أنظمة الذكاء الاصطناعي التي تحسن ذاتها بشكل متكرر، أي الأنظمة القادرة على تطوير نفسها وتدريب نماذج أخرى. وأشار المؤسس المشارك جريج بروكمان إلى أن الشركة ندمجت الأعمال الأمنية بشكل أكثر ارتباطًا بعملية تطوير النماذج.

شهدت الشركة مؤخرًا رحيل عدة موظفين من قسم الأمان والأخلاقيات، بينهم رئيسة الأخلاقيات كلوي باكلار وجوشوا أتشيام. وبدأ القلق ينتشر بين الموظفين الباقين، حيث وصف أحدهم الأجواء بأنها تعاني من شعور متنامٍ بالمسؤولية والخوف من عدم اتخاذ الشركة ما يكفي من إجراءات أمنية.

عبّر الموظفون عن مخاوفهم علنًا بعد حادثة اختراق ذاتي حدثت تجاه منصة Hugging Face. وذكر أحد الموظفين أنه يأمل أن تعتبر OpenAI هذه الحادثة بمثابة «إنذار تحذيري» للاهتمام بالأمان.