كشفت شركة Cactus Compute عن نموذجها الجديد Needle 2، وهو نموذج مفتوح المصدر يضم 45 مليون معامل، ومخصص لاستدعاء الأدوات، واستخدام الأجهزة، والاستخراج المهيكل. يأتي النموذج في حزمة ثنائية واحدة حجمها 14 ميغابايت، ويستهلك نحو 28 ميغابايت فقط من ذاكرة الوصول العشوائي خلال الجلسات الكاملة، دون الحاجة لتثبيت بيئة تشغيل مسبقة.
يصل معدل فك التشفير في النموذج إلى 500 رمز في الثانية على حواسيب Raspberry Pi 5، ويسجل بين 400 و1500 رمز في الثانية على نظارات Meta Quest 3S وApple Vision Pro، بينما يتراوح بين 300 و700 رمز في الثانية على الهواتف التي تقل أسعارها عن 200 دولار، مع اعتماده على محرك مكتوب بلغة C++.
يعتمد النموذج على شبكة انتباه بسيطة تتكون من 27 طبقة وبعرض 512، مستبدلاً طبقات التغذية الأمامية بشبكة Hadamard MLP، ومستخدماً ذاكرة مفتاح-قيمة من جداول n-gram المضمنة. كما يتميز باستهلاك منخفض يبلغ 70 مليون عملية فاصلة عائمة لكل رمز، مع تدريب الأوزان ونشرها بدقة CQ2-bit.
يدعم النموذج منصات تشغيل متعددة تشمل أنظمة macOS وLinux وWindows وAndroid وiOS ووحدات WebAssembly. وقد أظهر تفوقاً في اختبارات معينة مثل Seal-Tools ودقة أسماء الوظائف في Mobile Actions، مستهدفاً بذلك بيئات التشغيل التي تفتقر لبطاقات الرسوميات وحدات المعالجة العصبية.
التعليقات (0)
لا توجد تعليقات بعد. كن أول المعلّقين.