ينبه خبراء الذكاء الاصطناعي إلى خطر متنام في المؤسسات يتعلق بالتعقيد الناشئ عن تفاعل الوكلاء الذكيين المتعددة، وليس بالوكلاء أنفسهم. فحين تنشر المؤسسات عددًا من الوكلاء يتواصل كل منها مع واجهات برمجية وآخرين من جنسه، تنشأ شبكة معقدة من الاتصالات يصعب مراقبتها وإدارتها بفعالية.
المشكلة تتفاقم بسرعة لأسباب تقنية واضحة. إضافة وكيل واحد تضيف اتصالًا واحدًا، لكن إضافة عشرة وكلاء قد ينتج عنها عشرات الاتصالات المحتملة، إذ يمكن لأي وكيل استدعاء آخر، وكل استدعاء قد يثير استدعاءات أخرى في سلسلة متتالية. هذا التضاعف السريع يجعل من المستحيل تقريبًا فهم مسارات البيانات والقرارات الآلية، خاصة حين تمر طلبات خدمة واحدة عبر عدة وكلاء قبل مراجعة إنسان.
تفقد المؤسسات السيطرة حين لا يستطيع فريق الأمان الإجابة على أسئلة بسيطة حول أي وكيل يمكنه الوصول إلى أي نظام، أو تتبع أي وكيل أطلق عملية ما في السلسلة. المشكلة تبدأ بزحف الأذونات، إذ يحصل وكيل على إذن عام عند نشره لضيق الوقت، ثم يُنسى، فيصبح لديه إمكانية وصول غير مخطط لها. علاوة على ذلك، تتلاشى المسؤولية كلما امتدت السلسلة، فحين تشارك خمسة وكلاء عملية واحدة وحدث عطل في المرحلة الرابعة، لا أحد قد يتحمل المسؤولية عن هذا الارتباط.
الحل يبدأ بإعطاء كل وكيل هوية واضحة مستقلة عن من نشره، مع نطاق صلاحيات محدد وشخص إنساني مسؤول عن أفعاله. لكن هذا ليس كافيًا. يتطلب الأمر نظام مراقبة يتتبع ما يفعله الوكيل والتأثيرات التي ينتجها في الوقت الفعلي، وليس من خلال تقارير دورية. الأهم من ذلك هو القدرة على إيقاف أي إجراء خارج السياسة قبل تنفيذه، لا بعده.
المؤسسات التي تسير بجدية نحو استخدام الوكلاء الذكيين بفعالية لا تبطئ سرعتها، لكنها تبني بنية تحتية متقدمة توازن بين قابلية التوسع والمساءلة. السر يكمن في القدرة على الإجابة على سؤال واحد في أي لحظة: ماذا يفعل هذا النظام الآن، ومن يتحمل مسؤوليته؟
التعليقات (0)
لا توجد تعليقات بعد. كن أول المعلّقين.