Lessons
LLM serving with SGLang TPU
تعرف على كيفية تحسين إطار عمل SGLang المبني على JAX لأداء تقديم نماذج اللغة الكبيرة على معالجات Google Cloud TPUs. ستتعلم كيفية الوصول إلى أدلة التثبيت والأمثلة السريعة لنشر تطبيقات ذكاء اصطناعي فعالة.
Watch video — Google Cloud