نشرت AWS دليلًا يشرح للفرق في تايلاند وماليزيا وسنغافورة وإندونيسيا وتايوان كيفية الوصول إلى أحدث نماذج OpenAI على Amazon Bedrock عبر ميزة الاستدلال العالمي متعدد المناطق، التي توزع الطلبات على مناطق AWS التجارية المدعومة لتجاوز قيود السعة في المنطقة الواحدة.
وبحسب الدليل، تتاح بهذه الطريقة نماذج GPT-6 Sol وGPT-6 Luna وGPT-6 Astra، وتقبل جميعها إدخال النصوص والصور واستخدام الأدوات من جهة العميل والتخزين المؤقت للأوامر، وتختلف في مستويات جهد الاستدلال المتاحة، إذ لا يدعم Astra خيار إيقاف الاستدلال.
ويوضح الدليل أن المستخدم يمرر معرف ملف الاستدلال بدلًا من معرف النموذج، فتختار Bedrock منطقة المعالجة، بينما تبقى الفوترة وتتبع الحصص والسجلات في منطقة المصدر. ويمكن استدعاء النماذج عبر Converse API أو عبر واجهتي Responses وChat Completions المتوافقتين مع OpenAI، إضافة إلى تطبيق ChatGPT لسطح المكتب وأداة Codex CLI.
ويتناول الدليل كذلك إعداد سياسات IAM وسياسات التحكم في الخدمات، منبهًا إلى أن قوائم المناطق المسموح بها في هذه السياسات قد ترفض الطلبات لأنها لا تحمل اسم منطقة محددة، وهو سبب شائع لفشل الاستدعاء الأول في حسابات المؤسسات.
Comments (0)
No comments yet. Be the first.