معجم الذكاء الاصطناعي

تحسين الاستدلال

Inference Optimization

تحسين سرعة وكفاءة عملية الاستدلال.

تقسيم الانتباه

Attention Partitioning

تقسيم آليات الانتباه لتحسين الكفاءة الحسابية.

الاستخراج التوقعاتي

Speculative Decoding

تسريع التوليد باستخدام نموذج صغير لتقليل زمن الاستجابة.

التخزين المؤقت للمفاتيح والقيم

KV Cache

تخزين مفاتيح القيم لتسريع عملية الاستدلال المتسلسل.

التحويل الكمي للاستدلال

Inference Quantization

تحويل الأوزان إلى دقة أقل لتسريع عملية الاستدلال.

تقنية ALiBi

ALiBi

تقنية ترميز موضعي خطية للتعامل مع السياق الطويل.

انتباه متعدد الاستعلامات

Multi-Query Attention

استخدام استعلامات مشتركة لتسريع عملية الانتباه.

خوارزمية الانتباه السريع

Flash Attention

خوارزمية انتباه فائقة السرعة لتقليل استخدام الذاكرة.

الخروج المبكر

Early Exit

الخروج المبكر من الشبكة لتقليل وقت الاستدلال.

محوِّل الرؤية

Vision Transformer

تطبيق بنية المحول على الصور بتقسيمها إلى رقع.

الترميز الذاتي

autoencoder

شبكة عصبية تتعلم ضغط المدخل إلى تمثيل أقل أبعاداً ثم إعادة بنائه.

طبقة المعايرة

calibration layer

طبقة تضبط مخرجات النموذج لتعكس الاحتمالات الحقيقية بشكل أدق.

المرشح الالتفافي

convolutional filter

أحد الفاعلَين في عملية الالتفاف، وهو مصفوفة لها نفس رتبة مصفوفة الإدخال لكن بحجم أصغر؛ فمع مصفوفة إدخال 28×28 يمكن للمرشح أن يكون أي مصفوفة ثنائية الأبعاد أصغر منها.

الطبقة الإلتفافية

convolutional layer

طبقة تطبق مرشحات لتحويل المدخل واستخراج الخصائص البنيوية.

العملية الإلتفافية

convolutional operation

ضرب نواة صغيرة بعناصر المدخل انزلاقياً لإنتاج خريطة ميزات.

وحدة فك الترميز

decoder

جزء من النموذج يعيد بناء تمثيل عالي الأبعاد من تمثيل منخفض.

الطبقة الكثيفة

dense layer

طبقة عصبية متصلة لكل عصبون فيها بكل عصبون الطبقة السابقة.

الشبكة الإلتفافية التفككية العمقية

depthwise separable convolutional neural network (sepcnn)

شبكة إلتفاف تفصل حسب العمق والقناة لتقليل الحسابات.

التسرب العشوائي

dropout regularization

أسلوب تنظيم يقطع عشوائياً وحدة عصبونات أثناء التدريب للحد من الإفراط.

متجه التضمين

embedding vector

متجه رقمي يلتقط دلالات كلمة أو عنصر من البيانات.

وحدة ترميز

encoder

جزء من نموذج يضغط المدخلات عالية الأبعاد إلى تمثيل أقل أبعاداً.

الطبقة الموصولة بالكامل

fully connected layer

طبقة خفية تتصل فيها كل عقدة بكل عقدة في الطبقة الخفية التالية.

لامدا (λ)

lambda

مرادف لمعدل التنظيم (regularization rate).

الفضاء الكامن

latent space

مرادف لفضاء التضمين (embedding space).

طبقة

layer

مجموعة من الخلايا العصبية في شبكة عصبية.

الخسارة اللوغاريتمية

log loss

دالة الخسارة المستخدمة في الانحدار اللوجستي الثنائي.

الذاكرة طويلة قصيرة المدى (LSTM)

long short-term memory (lstm)

نوع من خلايا الشبكات العصبية المتكررة يُستخدم لمعالجة سلاسل البيانات في تطبيقات مثل التعرف على الكتابة اليدوية والترجمة الآلية ووصف الصور؛ تعالج LSTM مشكلة تلاشي التدرج التي تنشأ عند تدريب شبكات RNN على سلاسل طويلة، وذلك بالاحتفاظ بالتاريخ في حالة ذاكرة داخلية تستند إلى المدخل الجديد وسياق الخلايا السابقة.

سطح الخسارة

loss surface

رسم بياني يبين العلاقة بين الوزن أو الأوزان وبين الخسارة؛ يهدف الانحدار التدرجي إلى إيجاد الأوزان التي تقع عندها الخسارة على سطح في حد أدنى محلي.

الانتباه الذاتي متعدد الرؤوس

multi-head self-attention

امتداد للانتباه الذاتي يطبّق آلية الانتباه الذاتي عدة مرات لكل موضع في تسلسل الإدخال.

العصبون

neuron

في الذكاء الاصطناعي، عنصر معالجة أولي يأخذ قيمة إدخال أو أكثر وينتج قيمة مخرجات بدمج قيم الإدخال وتطبيق دالة تنشيط على الناتج؛ ومن أمثلة دوال التنشيط غير الخطية الدالة العتبية والدالة السينية والدالة متعددة الحدود.

العقدة (في الشبكة العصبية)

node (neural network)

خلية عصبية في طبقة مخفية.

براكسيس (Praxis)

praxis

مكتبة تعلّم آلي أساسية عالية الأداء خاصة بـ Pax. كثيرًا ما تسمى Praxis «مكتبة الطبقات».

الوحدة الخطية المصححة

rectified linear unit (relu)

دالة تنشيط سلوكها: تحويل المدخلات السالبة إلى صفر، مع إبقاء المدخلات الموجبة بقيمتها نفسها.

الانتباه الذاتي

self-attention (also called self-attention layer)

طبقة شبكة عصبية تحوّل سلسلة تضمينات (مثل تضمينات الرموز) إلى سلسلة تضمينات أخرى؛ يُبنى كل تضمين في سلسلة المخرجات بدمج معلومات من عناصر سلسلة الإدخال عبر آلية انتباه.

التجميع المكاني

spatial pooling

انظر التجميع (pooling).

المحوِّل

transformer

بنية شبكة عصبية طوّرتها جوجل تعتمد على آليات الانتباه الذاتي لتحويل سلسلة ترميزات الإدخال إلى سلسلة ترميزات الإخراج دون الاعتماد على الالتفاف أو الشبكات المتكررة؛ ويمكن النظر إليه بوصفه كومةً من طبقات الانتباه الذاتي.

مشكلة تلاشي التدرج

vanishing gradient problem

ميل تدرجات الطبقات المخفية المبكرة في بعض الشبكات العصبية العميقة إلى أن تصبح مسطحة بشكل مدهش (منخفضة)؛ فالتدرجات الأدنى تزايدياً تؤدي إلى تغييرات أصغر فأصغر في أوزان العقد، مما ينتج عنه تعلم ضئيل أو معدوم.

المُرمِّز الذاتي التبايني

variational autoencoder (vae)

نوع من المُرمِّزات الذاتية يستفيد من التفاوت بين المدخلات والمخرجات لتوليد نسخ معدلة من المدخلات؛ وتُعد هذه المُرمِّزات مفيدة في الذكاء الاصطناعي التوليدي.

العرض

width

عدد العصبونات في طبقة معيّنة من الشبكة العصبية.

التطبيع بدرجة z

z-score normalization

تقنية تحجيم تستبدل قيمة الميزة الخام بقيمة عشرية تعبر عن عدد الانحرافات المعيارية بعيداً عن متوسط تلك الميزة؛ فميزة متوسطها 800 وانحرافها المعياري 100 تُربط قيمها الخام بدرجات z المقابلة وفق الجدول.