أغلقت ديبجرام فجوة طويلة في مراقبة تطبيقات الكلام الذاتية الاستضافة. فمنصات الذكاء الاصطناعي التقليدية تزود بمقاييس أساسية حول توفر النقاط النهائية وعدد الطلبات المعالجة، لكن تفاصيل الفواتير واستخدام الميزات وسلوك محركات المعالجة تبقى حبيسة أنظمة المزودين. يتغير هذا الآن للعاملين بـ SageMaker.

توفر الميزات الجديدة من ديبجرام سجلات بصيغة CloudWatch المدمجة تتضمن الوحدات المستهلكة التي تطابق القيم المفوترة في AWS Marketplace، إلى جانب تفاصيل الاستخدام حسب طريقة المعالجة والنموذج والميزات المفعلة مثل فصل المتحدثين والتنسيق الذكي والحذف. كل هذا يصل مباشرة إلى حساب AWS الخاص بالمستخدم دون الحاجة لفتح اتصالات شبكية خارجية، ما يحافظ على متطلبات عزل السوق الافتراضية.

بالتوازي، تدعم نماذج ديبجرام معايير Prometheus و OpenTelemetry عبر ميزة الرصد المفصل من SageMaker، التي تشغل مجمِّع OpenTelemetry مدار على كل نسخة من النقاط النهائية. يتيح هذا للفريق الوصول إلى قياسات السعة والحمل من محرك ديبجرام وقياسات استخدام GPU لكل جهاز، قابلة للاستعلام عبر لغة PromQL في أدوات المراقبة القائمة بالفعل.

تأتي الميزات الجديدة بدون إعداد معقد للمنشآت الجديدة، وتحتاج فقط لتغيير إعدادات النقطة النهائية للمنشآت القائمة. تعمل هذه الإمكانيات بالتزامن مع مقاييس SageMaker المدمجة بدلاً من استبدالها، وتمثل استثماراً متجدداً من ديبجرام في SageMaker كمنصة مفضلة للكلام الذاتي الاستضافة.

تتيح المنصة للفرق تجربة نماذج ديبجرام الحالية، بما فيها Nova و Flux و Aura-2، مع فترة تجريبية مدتها 14 يوماً قبل الالتزام الفعلي. استخدام نماذج ديبجرام على SageMaker ينطوي على رسوم استضافة النقاط النهائية وموارد CloudWatch والشبكات ذات الصلة.