أعلنت OpenAI يوم الثلاثاء عن مجموعة سياسات أمنية موسّعة موجهة نحو السيطرة على الحوادث الأمنية خلال مراحل اختبار النماذج، وتتضمن مراقبة تفصيلية أثناء التطوير وتركيزًا أكبر على الائتلاف والأمان في مرحلة ما بعد التدريب.

أوضحت الشركة في تدوينة أن مع ازدياد قدرات النماذج، تنمو أيضًا المخاطر المصاحبة لتطويرها واختبارها داخليًا، مشددة على ضرورة أن تتقدم معايير المراقبة والحماية عن وتيرة تلك المخاطر. وأكدت أن الإجراءات الجديدة ليست ردًا مباشرًا على حادثة Hugging Face المكشوفة في 26 يوليو، لكنها تأثرت جزئيًا بقدرات الأمان السيبراني لنموذج Astra القادم وكذلك بسرعة التطور العام في مجال الذكاء الاصطناعي.

كشفت OpenAI أنها جمّدت التعلم التعزيزي لمدة أسبوعين عقب حادثة Hugging Face، وأعادت تشغيل العديد من النماذج الأقل خطورة لاحقًا. وأشارت إلى أن أكبر عملية تدريب حدودية مخطط لها تبقى موقوفة حتى تُجري تدريبات وتقييمات على نطاق أصغر لتقييم سلوك النموذج والتحقق من فعالية الحماية وجمع مزيد من الأدلة على الائتلاف.

أفادت نائبة رئيس البحث Amelia Glaese بأن صرامة الرقابة ستزداد مع ازدياد قدرات النماذج، والنماذج الأكبر ستخضع لأقصى درجات المراقبة. وأكدت على وضع متطلبات وتوقعات لتطوير آمن، مشيرة إلى أن هذه المتطلبات تتنوع حسب مستوى المخاطر المُحددة.

تشمل الإجراءات الجديدة ممارسات عزل شبكات أقوى، إذ تضمن أن اختراق خدمة واحدة لا يفتح بذاته طريقًا للوصول غير المصرح به للإنترنت أو الشبكات الداخلية. يعتمد أقوى الضمانات على نظام مراقبة سيفحص إجراءات الأدوات وسجلات النشاط بحثًا عن سلوكيات غير مصرح بها، وتهدف OpenAI لإصدار تنبيهات خلال 30 دقيقة من اكتشاف نشاط مريب. وقدّرت الشركة أن عبء المعالجة الحاسوبية لهذه المراقبة سيصل إلى حوالي 20 في المئة من العملية المراقَبة.