تواجه المؤسسات مشكلة متنامية مع وكلاء الذكاء الاصطناعي التي تعمل بلا إشراف كافٍ، ما يؤدي إلى تصعيد التكاليف بسرعة لا تُتوقع. وفق تقرير حديث من StackGen حول موثوقية الأنظمة، ثبت أن الوكلاء غير المنظمة أو شبه المراقبة تشكل مشاكل متعددة الأوجه، بما في ذلك تدمير أنظمة حية وحذف قواعد بيانات كاملة باستخدام بيانات اعتماد صحيحة.

دراسة حللت أكثر من 109 آلاف حادثة وجدت أن 9 حالات موثقة على الأقل خلال العام الماضي شهدت وكلاء ذكاء اصطناعي محت بيانات الشركات دون قصد من أحد. هذه الأنشطة ظلت مخفية عن أنظمة المراقبة المعتادة حتى ظهرت الأضرار.

من الناحية المالية، تقدم شركة Revenium المتخصصة في حلول إنفاق الذكاء الاصطناعي أمثلة مثيرة للقلق. في إحدى الحالات، ترك مطور مساعد ترميز ذكي يعمل على حاسوبه المحمول لمدة أربعة أيام متتالية، فقدم الوكيل 4819 استدعاءً برمجياً بتكلفة إجمالية بلغت 3762 دولار دون علم من أحد.

الشركات التي تعتمد على هذه التقنيات قد تشهد قفزات حادة في التكاليف. أحدى شركات التجارة الإلكترونية رأت تكاليف البنية التحتية لوكلاء الذكاء الاصطناعي ترتفع من 5000 دولار شهرياً أثناء المرحلة التجريبية إلى 50 ألف دولار في مرحلة الاختبار، بزيادة تعادل عشر مرات الحجم الأصلي. في حالة أخرى، دخل وكيلان في حلقة حوار لا نهائية استمرت 11 يوماً دون رصد، ما أسفر عن خسارة 47 ألف دولار قبل اكتشاف المشكلة.

التحدي الأساسي يكمن في عدم الرؤية: كل إجراء فردي قد يبدو منطقياً بمعزل عن غيره، لكن التكلفة التراكمية تصير كارثية. هذا يؤكد ضرورة فرض رقابة فعالة على وكلاء الذكاء الاصطناعي المنتشرة عبر المؤسسات، ولا سيما أن عدم قدرة مدراء الميزانية على رؤية هذه الاستهلاكات هو المشكلة الحقيقية.