نشرت قسم التعلم الآلي في شركة أمازون ويب سيرفيسز (AWS) دليلاً تقنياً يوضح كيفية دمج نقاط نهاية متوافقة مع OpenAI على خدمة Amazon SageMaker AI مع بيئة تشغيل Amazon Bedrock AgentCore. تتيح هذه الخطوة للمطورين الجمع بين نماذج المؤسسات المُدارة والنماذج المخصصة أو ذات التكلفة المحسنة دون الحاجة لإعادة كتابة إطار عمل الوكلاء الخاص بهم، مما يحقق مرونة أكبر في إدارة التكاليف وسيادة البيانات.
استعرض الفريق طريقة نشر نموذج Qwen 3.5 9B عبر حاويات التعلم العميق vLLM على مثيل ml.g6e.2xlarge، وإدماجه ضمن نظام متعدد الوكلاء يسمى Strands Agents إلى جانب نماذج أخرى على منصة Amazon Bedrock. ويتولى وكيل المنسق توجيه الطلبات بذكاء بين الوكلاء المتخصصين، مثل وكيل الميزانية الذي يستدعي نموذج Claude Sonnet عبر Bedrock، ووكيل التحليل المالي الذي يعتمد على نموذج Qwen عبر SageMaker.
ولمعالجة مشكلة غياب المراقبة التلقائية لمستوى الرموز (tokens) في نقاط نهاية SageMaker عبر إطار Strands، قدمت أمازون حلاً يتضمن إنشاء نطاقات تتبع مخصصة باستخدام OpenTelemetry، وضبط إعدادات استجابات البث لتضمين بيانات الاستخدام عبر المعلمة include_usage. يضمن هذا الإجراء ظهور إحصاءات الاستهلاك بشكل كامل ضمن مسارات التتبع إلى جانب مكونات Bedrock.
تعتمد الهندسة المقترحة على توفير رموز المصادقة المتجددة تلقائياً عبر فئة فرعية من مكتبة httpx، مع نشر سير العمل الكامل باستخدام أداة bedrock-agentcore-starter-toolkit. وتوفر الشركة للمطورين مستودعاً برمجياً كاملاً على منصة GitHub يتضمن الأكواد المصدرية ودليل المراقبة المفصل لبناء واختبار هذه الأنظمة الوكيلة.
Comments (0)
No comments yet. Be the first.