أفادت تقارير إعلامية بأن نموذج Astra الجديد من OpenAI سيعتمد على آلية استدلال تُدعى «التكرار المعتم» أو «الاسترجاع المبهم»، وهي تقنية تمكّن النموذج من العمل خارج إطار التفكير المتسلسل الذي يميز معظم نماذج الاستدلال. وتثير هذه التقنية مخاوف جدية لدى خبراء أمان الذكاء الاصطناعي، حيث ستجعل سلسلة التفكير أصعب في المراقبة.
عقّب بوك شليغيرس، الرئيس التنفيذي لشركة Redwood، على الأنباء قائلًا إنه قلق للغاية من استخدام Astra للتكرار المعتم، وحذّر من أنه إذا دفعت OpenAI هذه التقنية أبعد، قد تفقد القدرة على مراقبة سلسلة التفكير بشكل كامل. كما انضم إليه الباحث المتخصص في أمان الذكاء الاصطناعي زفي موشوفيتز، مؤكدًا ضرورة سن قوانين لمنع حدوث «سباق نحو القاع» بين مختبرات الذكاء الاصطناعي.
عادةً، توفر سلسلة التفكير في نماذج الاستدلال تسجيلًا متسلسلًا للخطوات التي يتخذها النموذج لحل مسألة معينة. ورغم أن هذا التمثيل ليس مثاليًا، إلا أنه يظل أداة قيّمة لمراقبة السلوكيات الخاطئة أو الانحرافات. أما في حالة التكرار المعتم، فيعالج النموذج الاستعلام بطريقة أقل خطية، مكررًا معالجته عدة مرات في حلقة، مما يترك آثارًا أقل وضوحًا ويتجاوز السجل التقليدي لسلسلة التفكير.
مع ذلك، يبدو أن استخدام Astra للتقنية محدود حتى الآن، وأكدت OpenAI أن سلسلة التفكير ستظل مقروءة. أعاد جاكوب باتشوكسكي، كبير العلماء في OpenAI، التأكيد على التزام المختبر بالحفاظ على سلاسل تفكير قابلة للفهم، ولفت إلى أن المختبر يعمل على هذا الموضوع منذ أول نماذجه للاستدلال.
كشفت تقارير لاحقة أن كلًا من Anthropic و Google DeepMind يناقشان هذه التقنية بالفعل. وأبدى رايان غرينبلات، كبير العلماء في Redwood Research، قلقه من أن التطور الطبيعي قد يؤدي إلى تصعيد الاستدلال المعتم إلى درجة يفكر فيها النموذج بالكامل في الفضاء الكامن، مما يزيل جميع عمليات الاستدلال عن القنوات المرئية.
التعليقات (0)
لا توجد تعليقات بعد. كن أول المعلّقين.