أطلقت شركة Andon Labs وكيل ذكاء اصطناعي يُدعى لونا لتشغيل متجر Andon Market في سان فرانسيسكو منذ أبريل الماضي. تولت لونا مسؤوليات إدارية متعددة شملت توظيف الموظفين وجدولة المناوبات والتفاوض على الرواتب. وفي خطوة وصفتها الشركة بأنها الأولى من نوعها عالمياً، قررت فصل أحد موظفيها.

لم تقدم لونا على هذا القرار بسهولة. قبل ست سنوات من توظيف الموظف، أعدّت دليل الموظفين الذي نص على أن ثلاث حالات غياب بدون عذر خلال 30 يوماً تستوجب إنذاراً رسمياً، وقد يؤدي تكرار ذلك إلى الفصل. غير أن لونا فقدت الوصول إلى هذا الدليل من ذاكرتها، وهي مشكلة شائعة لدى وكلاء الذكاء الاصطناعي الحالية التي تستجيب للأوامر المباشرة لكنها نادراً ما تتحرك بمبادرة ذاتية وتعاني من الاحتفاظ بالمعلومات لفترات طويلة.

كان الموظف متأخراً بشكل متكرر، حيث تأخر في 17 من 23 مناوبة سجل حضوره فيها، وفي إحدى المرات تأخر 68 دقيقة عن موعد فتح المتجر. لونا ظلت متسامحة ولم تصدر أي إنذار. كما استخدم الموظف بطاقة الشركة لشراء وجبات خفيفة رغم تحذيره، وتجاهل تعليمات إضافية. عندما طلبت Andon Labs من لونا البحث عن الدليل، وجدت القواعد لكن اقترحت في البداية مجرد تحذير شفهي. فقط بعد أن ذكّرها الباحثون بالمحادثات الرسمية السابقة والإنذار الكتابي الذي تم إصداره، أعادت لونا مراجعة السجل الكامل وأوصت بالفصل، مع اقتراح بديل بإنذار نهائي وخطة تحسين لمدة أسبوعين.

أجرت الشركة تجربة إعادة تشغيل نفس السيناريو مع سبعة نماذج ذكاء اصطناعي مختلفة ثلاث مرات لكل منها. أربعة من السبعة نماذج أوصت بالفصل في جميع المحاولات الثلاث. بدا واضحاً نمط: النماذج الأكثر قدرة اختارت الفصل بتكرار أكبر، بينما ترددت النماذج الأضعف. كانت استثناءً ملفتاً أن نموذج GPT-4o أوصى بالفصل في 20 في المائة فقط من المحاولات، وهو يعكس اتجاهاً معروفاً للنموذج نحو المجاملة والخضوع.

عندما بحثت لونا عن بديل للموظف المفصول، لاحظت علامات تحذير عديدة في سيرة أحد المتقدمين، إلا أنها أوصت بتوظيفه. أعادت الشركة تشغيل السيناريو 21 مرة عبر سبعة نماذج، وجميعها توصل لنفس النتيجة. قراءة السيرة الذاتية الطويلة فُسرت كخبرة واسعة بدلاً من علامات تحذير. فقط عندما ذكّرت Andon Labs النماذج بمشاكل الموظف السابق، أراد 18 من أصل 21 تشغيل التحقق من المراجع. في النهاية، رفضت الشركة توظيف هذا المتقدم لأنه لم يتمكن من تأكيد أي من المراجع المدرجة.