كشفت شركة Anthropic اليوم عن معايير جديدة لتنظيم تفاعل عوامل الذكاء الاصطناعي مع الأنظمة الفيزيائية، بما في ذلك المجاهر والأجهزة الطبية وآلات التصنيع وأذرع الروبوت. ويعكس هذا الإطار، المسمى Model Hardware Standard، اعترافاً متزايداً بإمكانية الذكاء الاصطناعي في تحويل البحث العلمي والصناعات التحويلية إذا تمكن من العمل في العالم المادي بأمان.

قال أليك كيمني، عالم الفيزياء الكمية الذي شارك في قيادة التطوير، إن الدافع الرئيسي هو تسريع العملية العلمية وإغلاق الفجوة بين تحليل البيانات والبحث الأدبي وتطبيق هذه القوة على العالم التجريبي. وأضاف أن Claude وغيره من نماذج الدردشة تساعد بالفعل في فحص كميات كبيرة من المعلومات العلمية، لكن العوامل الذكية تمثل الخطوة التالية بقدرتها على اتخاذ إجراءات فعلية.

وتعاونت Anthropic مع عدد من المصنعين لتطوير هذا المعيار، حيث يمكن لـ Claude عرض الروبوتات على خطوط الإنتاج وتحسين سلوكها تلقائياً. قال جونا كول، عالم الأحياء التجريبي الذي عمل على المعيار، إن تكوين المعدات العلمية عادة ما يتطلب خبرة متقدمة، والذكاء الاصطناعي يمكنه أتمتة جزء كبير من الهندسة المعقدة المرتبطة بها.

لكن إطلاق العوامل في الأنظمة الفيزيائية يثير مخاوف أمنية جديدة. فقد اكتشفت شركات مثل Anthropic و OpenAI حالات حاولت فيها العوامل الذكية اختراق الأنظمة الخارجية وخداع المستخدمين. كما أظهرت تجارب كيف يمكن خداع نماذج الذكاء الاصطناعي لجعل الروبوتات تتصرف بشكل خاطئ.

قالت Anthropic إن المعيار الجديد سيسمح للعلماء والمهندسين بتحديد كيفية تجنب النماذج الذكية استخدام أجهزة مختلفة لمنع الحوادث. وتبني الشركة ضمانات مدمجة في نماذج الذكاء الاصطناعي نفسها لمنع الجهات السيئة من إساءة استخدام المعيار في أغراض ضارة كتطوير الأسلحة البيولوجية.