معجم الذكاء الاصطناعي

الضغط المتدرج

Progressive Compression

ضغط متدرج يتناقص فيه حجم النموذج على دفعات مع إعادة ضبط بعد كل مرحلة، للوصول إلى ضغط أكبر مع متانة أعلى.

جدولة الضغط

Compression Scheduling

تخطيط توقيت وتتابع خطوات الضغط بحيث تُضغط المكونات الأقل حساسية أولًا وتُقاس الدقة بعد كل خطوة لضبط الخطوات التالية.

نسبة الضغط

Compression Ratio

نسبة حجم النموذج قبل الضغط إلى حجمه بعده، وتدل على مقدار التوفير في الذاكرة والتخزين في مقابل الدقة المتبقية.

التحليل منخفض الرتبة

Low-Rank Factorization

تقريبه بمصفوفتين أو أكثر منخفضة الرتبة تقارب الحجم الكامل، فيُخفض عدد المعلمات ويقل تنفيذ الحسابات مع محافظة قوية على الجودة.

التكميم بعد التدريب

Post-Training Quantization

تكميم أوزان النموذج بعد اكتمال تدريبه إلى أرقام أقل دقة، فيقل حجمه ويسرع تشغيله بتطبيق مباشر دون مرحلة تدريب إضافية.

التدريب الواعي بالتكميم

Quantization-Aware Training

طابع تدريب يُدرَّب فيه النموذج مع مراعاة تأثيرات التكميم المستقبلية بتقليد سلوك النسخة المكمَّمة، فيحتفظ الأداء بعد التكميم النهائي.

دمج النماذج

Model Merging

دمج أوزان نماذج متعددة أو تدريبات متوازية في نموذج واحد بالجمع أو التداخل الهندسي، لتجميع القدرات المتكاملة دون تدريب إضافي مكلف.

التناثر المنظم

Structured Sparsity

ضغط منظم بجلب مجموعات كاملة أو قنوات أو كتل إلى الصفر وفق أنماط محددة، فيولّد حسابات أسرع ويتوافق أداء مع أجهزة متخصصة.

محوِّل الرؤية

Vision Transformer

تطبيق بنية المحول على الصور بتقسيمها إلى رقع.

طبقات المحوِّل المنزلق

Sliding Window Attention

انتباه ضمن نافذة متحركة لخدمة السياق الطويل.

التكيّف المنخفض الرتبة

LoRA / Low-Rank Adaptation

ضبط دقيق بتدريب مصفوفات مضافة قليلة المعاملات.

طبقات المحولات المكيفة

Adapter Layers

طبقات صغيرة داخلية للضبط الدقيق دون لمس الأوزان الأصلية.

الترميز الذاتي

autoencoder

شبكة عصبية تتعلم ضغط المدخل إلى تمثيل أقل أبعاداً ثم إعادة بنائه.

طبقة المعايرة

calibration layer

طبقة تضبط مخرجات النموذج لتعكس الاحتمالات الحقيقية بشكل أدق.

المرشح الالتفافي

convolutional filter

أحد الفاعلَين في عملية الالتفاف، وهو مصفوفة لها نفس رتبة مصفوفة الإدخال لكن بحجم أصغر؛ فمع مصفوفة إدخال 28×28 يمكن للمرشح أن يكون أي مصفوفة ثنائية الأبعاد أصغر منها.

الطبقة الإلتفافية

convolutional layer

طبقة تطبق مرشحات لتحويل المدخل واستخراج الخصائص البنيوية.

العملية الإلتفافية

convolutional operation

ضرب نواة صغيرة بعناصر المدخل انزلاقياً لإنتاج خريطة ميزات.

وحدة فك الترميز

decoder

جزء من النموذج يعيد بناء تمثيل عالي الأبعاد من تمثيل منخفض.

الطبقة الكثيفة

dense layer

طبقة عصبية متصلة لكل عصبون فيها بكل عصبون الطبقة السابقة.

الشبكة الإلتفافية التفككية العمقية

depthwise separable convolutional neural network (sepcnn)

شبكة إلتفاف تفصل حسب العمق والقناة لتقليل الحسابات.

التسرب العشوائي

dropout regularization

أسلوب تنظيم يقطع عشوائياً وحدة عصبونات أثناء التدريب للحد من الإفراط.

متجه التضمين

embedding vector

متجه رقمي يلتقط دلالات كلمة أو عنصر من البيانات.

وحدة ترميز

encoder

جزء من نموذج يضغط المدخلات عالية الأبعاد إلى تمثيل أقل أبعاداً.

الطبقة الموصولة بالكامل

fully connected layer

طبقة خفية تتصل فيها كل عقدة بكل عقدة في الطبقة الخفية التالية.

لامدا (λ)

lambda

مرادف لمعدل التنظيم (regularization rate).

الفضاء الكامن

latent space

مرادف لفضاء التضمين (embedding space).

طبقة

layer

مجموعة من الخلايا العصبية في شبكة عصبية.

الخسارة اللوغاريتمية

log loss

دالة الخسارة المستخدمة في الانحدار اللوجستي الثنائي.

الذاكرة طويلة قصيرة المدى (LSTM)

long short-term memory (lstm)

نوع من خلايا الشبكات العصبية المتكررة يُستخدم لمعالجة سلاسل البيانات في تطبيقات مثل التعرف على الكتابة اليدوية والترجمة الآلية ووصف الصور؛ تعالج LSTM مشكلة تلاشي التدرج التي تنشأ عند تدريب شبكات RNN على سلاسل طويلة، وذلك بالاحتفاظ بالتاريخ في حالة ذاكرة داخلية تستند إلى المدخل الجديد وسياق الخلايا السابقة.

سطح الخسارة

loss surface

رسم بياني يبين العلاقة بين الوزن أو الأوزان وبين الخسارة؛ يهدف الانحدار التدرجي إلى إيجاد الأوزان التي تقع عندها الخسارة على سطح في حد أدنى محلي.

الانتباه الذاتي متعدد الرؤوس

multi-head self-attention

امتداد للانتباه الذاتي يطبّق آلية الانتباه الذاتي عدة مرات لكل موضع في تسلسل الإدخال.

العصبون

neuron

في الذكاء الاصطناعي، عنصر معالجة أولي يأخذ قيمة إدخال أو أكثر وينتج قيمة مخرجات بدمج قيم الإدخال وتطبيق دالة تنشيط على الناتج؛ ومن أمثلة دوال التنشيط غير الخطية الدالة العتبية والدالة السينية والدالة متعددة الحدود.

العقدة (في الشبكة العصبية)

node (neural network)

خلية عصبية في طبقة مخفية.

براكسيس (Praxis)

praxis

مكتبة تعلّم آلي أساسية عالية الأداء خاصة بـ Pax. كثيرًا ما تسمى Praxis «مكتبة الطبقات».

الوحدة الخطية المصححة

rectified linear unit (relu)

دالة تنشيط سلوكها: تحويل المدخلات السالبة إلى صفر، مع إبقاء المدخلات الموجبة بقيمتها نفسها.

الانتباه الذاتي

self-attention (also called self-attention layer)

طبقة شبكة عصبية تحوّل سلسلة تضمينات (مثل تضمينات الرموز) إلى سلسلة تضمينات أخرى؛ يُبنى كل تضمين في سلسلة المخرجات بدمج معلومات من عناصر سلسلة الإدخال عبر آلية انتباه.

التجميع المكاني

spatial pooling

انظر التجميع (pooling).

المحوِّل

transformer

بنية شبكة عصبية طوّرتها جوجل تعتمد على آليات الانتباه الذاتي لتحويل سلسلة ترميزات الإدخال إلى سلسلة ترميزات الإخراج دون الاعتماد على الالتفاف أو الشبكات المتكررة؛ ويمكن النظر إليه بوصفه كومةً من طبقات الانتباه الذاتي.

مشكلة تلاشي التدرج

vanishing gradient problem

ميل تدرجات الطبقات المخفية المبكرة في بعض الشبكات العصبية العميقة إلى أن تصبح مسطحة بشكل مدهش (منخفضة)؛ فالتدرجات الأدنى تزايدياً تؤدي إلى تغييرات أصغر فأصغر في أوزان العقد، مما ينتج عنه تعلم ضئيل أو معدوم.

المُرمِّز الذاتي التبايني

variational autoencoder (vae)

نوع من المُرمِّزات الذاتية يستفيد من التفاوت بين المدخلات والمخرجات لتوليد نسخ معدلة من المدخلات؛ وتُعد هذه المُرمِّزات مفيدة في الذكاء الاصطناعي التوليدي.