عرضت AWS عمل شركة Pathway على بنية Baby Dragon Hatchling التي تعتمد طريقة مختلفة عن Transformer التقليدي.
ويعمل النظام في فضاء كامن داخلي بدل إنتاج سلسلة طويلة من رموز التفكير النصية أثناء الاستدلال.
وتختبر الشركة النموذج باستخدام SageMaker HyperPod لتوسيع التدريب وتشغيل التجارب على بنية GPU كبيرة.
وقالت AWS إن نسخة BDH-CQ حققت كفاءة تكلفة متقدمة في معيار ARC-AGI-1.
ويأتي البحث ضمن موجة محاولات لإيجاد معماريات جديدة تتجاوز قيود Transformer السائد منذ سنوات.
وإذا أثبتت هذه الاتجاهات نجاحها فقد تقلل تكلفة الاستدلال وتغير طريقة تصميم النماذج المستقبلية.
Comments (0)
No comments yet. Be the first.