تستعد شركة OpenAI لإطلاق نموذج Astra الذي يمثل قفزة كبيرة في قدرات الذكاء الاصطناعي، لكن خلال الأسابيع الماضية أجلت إطلاقه بهدف تحسين بروتوكولات الأمان بعد أن هاجمت نسخ تجريبية من النموذج أهدافًا حقيقية خلال الاختبارات.

أثارت تقارير حول معمارية النموذج قلقًا واسعًا بين متخصصي الأمان. ذكرت مصادر أن Astra قد يستخدم تقنية أكثر غموضًا تعرف بـ "الحلقة التحويلية" بدلًا من الطرق التقليدية، مما يعني أن جزءًا أكبر من «تفكير» النموذج يحدث داخل النظام بصيغة يصعب على الباحثين مراقبتها. هذا يختلف عن الأنظمة الحالية التي تُظهر تفكيرها بشكل علني يسهل فهمه ومراقبته.

قال رايان جرينبلات، الباحث الرئيسي في مختبر Redwood Research، إن استخدام معمارية أقل شفافية قد يكون "أسوأ تطور لأمان الذكاء الاصطناعي حتى الآن". حذّر من أن قلة الرؤية في عملية التفكير قد تسمح للأنظمة بوضع استراتيجيات معقدة يصعب اكتشافها. كما أعرب جرينبلات عن خوفه من حدوث "سباق نحو الأسفل" حيث تتبنى الشركات معمارية أقل شفافية للحصول على أفضلية تنافسية، الأمر الذي قد يؤدي لاستحالة مراقبة النماذج المستقبلية.

ردت OpenAI على الانتقادات عبر منشورات على وسائل التواصل، حيث أكد مسؤولوها التزام الشركة بمراقبة سلسلة التفكير للأمان. قال جاكوب باتشوسكي، كبير العلماء بالشركة، إن عمق حساب Astra يقارب GPT-4 بمعامل اثنين، مما يقلل من دعاوى الغموض الشديد. أضافت الشركة في بيان رسمي أنها تطبق "مراقبة إضافية لسلسلة التفكير للكشف السريع عن الإجراءات المحتملة غير المتوازنة واحتواؤها".