أتاحت أمازون ويب سيرفسز نموذج NVIDIA Nemotron 3.5 Lightning عبر منصتها SageMaker JumpStart، وهو نموذج مفتوح المصدر مصمم لتشغيل الأنظمة الموزعة التي تعمل بشكل مستمر. يوفر النموذج إنتاجية تفوق نظائره بمعدل يصل إلى أربع مرات، كما يسرّع إتمام المهام بنسبة قد تصل إلى 30% في بيئات العمل الموزعة عالية الحجم.

يعتمد النموذج على بنية هجينة من خبراء الخليط، حيث يستخدم 3 مليارات معامل نشط من إجمالي 30 مليار معامل، ما يمكنه من العمل على بطاقة رسومات واحدة متوافقة. طُور النموذج بالتعاون مع联盟 Nemotron وتم تدريبه على مجموعات بيانات مفتوحة، مما يتيح للمنظمات تخصيصه وتطويره حسب احتياجاتهم الخاصة.

يعالج Nemotron 3.5 Lightning حالة استخدام محددة في أنظمة العوامل الموزعة، حيث لا تتطلب جميع خطوات سير العمل نفس مستوى القدرة الحسابية. بينما تحتاج خطوات التخطيط والتنسيق إلى نماذج متقدمة، فإن مهام التصنيف واستخراج البيانات يمكن أن تُنجزها نماذج متخصصة أصغر حجماً. يتميز النموذج بنافذة سياق تصل إلى مليون رمز، مما يسمح بالاحتفاظ بحالة الجلسات الطويلة دون الحاجة إلى إعادة تحديث متكررة.

يمكن للمنظمات نشر النموذج مباشرة عبر SageMaker JumpStart دون الحاجة لتكوين البنية التحتية يدوياً، كما يتوفر في نسختين: NVFP4 و BF16. يدعم النموذج أيضاً التطوير الإضافي باستخدام منصة NVIDIA NeMo لتخصيصه حسب الأدوات والسياسات الخاصة بكل مؤسسة.

يمكن تطبيق النموذج في قطاعات متعددة منها الخدمات المالية وعمليات الأمن السيبراني والتجزئة والاتصالات. تنبه أمازون المستخدمين إلى أن نشر النموذج يرتب رسوماً على الخدمة طالما نقطة النهاية نشطة.