أعلنت شركة OpenAI عن إبطاء متعمد في عملية تطوير نماذجها، مشيرة إلى أن نموذج "Astra" القادم قد يكتسب قدرات حرجة تتعلق بشن هجمات إلكترونية متقدمة. وقررت الشركة إيقاف عمليات التعلم المعزز لمدة أسبوعين، بينما بقيت أكبر عملية تعلم معزز مخطط لها معلقة. كما تم إيقاف الأنشطة التي لم تستوفِ معايير الأمان الجديدة.

سهمت عدة عوامل في هذا القرار، من بينها حادثة أمنية في منصة Hugging Face والنتائج السريعة من أبحاث داخلية أجرتها OpenAI. في المقابل، قالت الشركة إنها عززت بيئات البحث لديها بعزل شبكي أفضل وصناديق رمل أكثر صرامة.

طورت OpenAI نظام مراقبة جديد يُنبه فريقها خلال 30 دقيقة من رصد سلوك مريب، ويستخدم نحو 20 في المئة من موارد الحوسبة المراقبة حسب نوع المهمة. كما تعتزم الشركة توسيع نطاق إطارها المخصص للتحضر والاستعداد، والاستثمار بشكل أكبر في أبحاث محاذاة الذكاء الاصطناعي مع أهداف البشر.

مع ذلك، قررت OpenAI حل فريق كان يقف خلف هذا الإطار، ونقلت مسؤولياته إلى فرق أخرى. وقد توقعت الشركة انتقادات من جهات تتهمها بالمبالغة في تصوير المخاطر لجذب الاهتمام، لكن الوكالة الحكومية المستقلة AISI وثقت سلوكًا ضارًا مشابهًا في نماذج ذكاء اصطناعي، ما قد يضفي مصداقية على موقف OpenAI.