أطلقت أمازون ميزة جديدة في منصة SageMaker تمكّن الشركات من التحكم الدقيق في توزيع نسخ نماذج الذكاء الاصطناعي عبر مناطق التوفر المتعددة، وقد استفادت منها سيلزفورس لتحقيق متطلباتها الصارمة للتوفر العالي. المشكلة التي واجهتها سيلزفورس هي أن خوارزمية التوزيع الافتراضية في SageMaker لم تضمن توازن النسخ عبر مناطق التوفر، مما قد يخلق نقاط فشل محتملة.
الحل جاء عبر معامل SchedulingConfig الجديد في واجهة CreateInferenceComponent، الذي يوفر خيارين أساسيين: SPREAD لنشر النسخ بشكل متفرق على حوادث منفصلة، وMaxImbalance لتحديد الفروقات المسموحة بين المناطق. باستخدام هذه الخيارات، تمكنت سيلزفورس من نشر أربع نسخ من نموذج ما بشكل متوازن: نسختان في المنطقة الأولى ونسختان في المنطقة الثانية.
ترتفع أهمية هذه الميزة عند إجراء عمليات التوسع والانكماش، حيث يساعد SageMaker على الحفاظ على التوازن الجغرافي للنسخ تلقائيًا. عند إضافة نسخ جديدة، يتم وضعها بطريقة تحافظ على التوزيع المتساوي، وعند حذف نسخ، يتم إزالتها بتناسق عبر المناطق. من الضروري تجنب تعيين نسخة واحدة فقط للنماذج الحرجة، لأن ذلك يؤدي إلى كسر متطلبات التوفر عبر منطقتي توفر.
حققت سيلزفورس من خلال هذه الإمكانية توازنًا بين الكفاءة التكلفية والموثوقية، حيث خفّضت تكاليف البنية التحتية بمعدل 8 أضعاف بفضل استضافة نماذج متعددة على وحدات معالجة رسومات مشتركة، مع الحفاظ على المتطلبات الصارمة للتوفر العالي. توصي أمازون باستخدام حجوزات السعة عند الطلب في المناطق ذات القيود الجغرافية، لضمان القدرة على تحقيق التوزيع المطلوب دون قيود من توفر السعة.
توفر منصة SageMaker AI Insights رؤية شاملة عن صحة توزيع النسخ عبر المناطق من خلال مؤشرات مدمجة قابلة للرصد عبر لوحات التحكم وAmazon CloudWatch. يعكس هذا التطور الاتجاه المتنامي نحو جعل الأعباء الحسابية للذكاء الاصطناعي أكثر موثوقية، خاصة للتطبيقات الحرجة التي تتطلب معايير توفر عالية جدًا.
Comments (0)
No comments yet. Be the first.