أعلنت Hugging Face عن إطلاق مكتبة جديدة توفر مجموعة شاملة من العمليات المحسّنة لتسريع الاستدلال الذكي على وحدات معالجة الرسومات عبر متصفحات الويب الحديثة. تتضمن المكتبة 207 نواة حسابية تغطي العمليات الأساسية المستخدمة في معمارة الشبكات العصبية من عمليات الضرب المصفوفي إلى تحويلات البيانات والعمليات الكمّية.
كل نواة حسابية في المجموعة منشورة كحزمة مستقلة مع الإصدار والوثائق الكاملة والواجهات البرمجية وحالات الاختبار على منصة Hugging Face Hub. يتيح هذا الهيكل للمطورين فحص العمليات واختبارها وتحسينها بشكل مستقل دون الاعتماد على نسخ غير مصرحة من الملفات.
أطلقت الشركة أيضًا منصة Fleet المتخصصة في قياس أداء وحدات المعالجة الرسومية مباشرة في المتصفح. تسمح المنصة للمستخدمين بتشغيل اختبارات الصحة والأداء على أجهزتهم الخاصة ورفع النتائج للمساهمة في تحسين الأداء العام، مع الحفاظ على خصوصية البيانات.
في مقارنة مع ONNX Runtime Web على وحدة معالجة رسومات Apple M4، حققت النوى المحسّنة تفوقًا بمعدل 2.57 مرة من حيث المتوسط الهندسي و1.90 مرة من حيث الوسيط عبر 809 حالة اختبار. في حالات متخصصة، تجاوز التحسن 10 آلاف مرة، إذ عملت عملية Einsum معقدة في 0.136 ميلي ثانية مقابل 1396 ميلي ثانية للحل الآخر.
تمثل هذه المكتبة الأساس الأول لتسريع تشغيل نماذج الذكاء الاصطناعي في المتصفحات، وتعتزم Hugging Face التوسع في عدد النوى المحسّنة وتوصيل تحسيناتها للنظم الأعلى مستوى. تعمل الشركة أيضًا مع فريق ONNX Runtime على دمج هذه التحسينات في النظام الأساسي الأوسع.
Comments (0)
No comments yet. Be the first.