معجم الذكاء الاصطناعي

المحولات

Transformers

بنية نموذجية تعتمد على آلية الانتباه.

آلية الانتباه

Attention Mechanism

آلية تتيح للنموذج التركيز على أجزاء محددة.

الترميز الموضعي

Positional Encoding

إضافة معلومات عن ترتيب العناصر في التسلسل.

طبقة الانتباه متعدد الرؤوس

Multi-Head Attention

تنفيذ آليات انتباه متعددة بشكل متزامن.

الترميز وفك الترميز

Encoder-Decoder

بنية تتألف من جزء للترميز وآخر لتوليد المخرج.

شبكة التغذية الأمامية

Feed-Forward Network

شبكة عصبية تعمل بشكل أحادي الاتجاه.

التطبيع الداخلي

Layer Normalization

تقنية لتطبيع المخرجات في كل طبقة.

الارتباط المتبقية

Residual Connection

ربط مباشر بين طبقات لتخفيف التلاشي التدريجي.

الانتباه العابر

Cross-Attention

نوع انتباه يربط بين الترميز وفك الترميز.

الشبكة التلافيفية

Convolutional Neural Network

شبكات تستخدم طبقات التلافيف لاكتشاف المعالم.

الشبكة الدورية

Recurrent Neural Network

شبكة تمتلك اتصالات دورية للبيانات التسلسلية.

الذاكرة قصيرة المدى

Short-term Memory

قدرة النموذج على الاحتفاظ بالمعلومات مؤقتاً.

الذاكرة طويلة المدى

Long-term Memory

قدرة النموذج على الاحتفاظ بالمعلومات لفترات طويلة.

البنية التجميعية

Ensemble Architecture

دمج عدة نماذج للعمل معاً.

البنية الأحادية

Monolithic Architecture

تصميم النموذج كوحدة واحدة متكاملة.

ضبط النماذج

Model Tuning

تعديل معلمات النموذج لتحسين الأداء.

الضبط الدقيق

Fine-tuning

تدريب نموذج مدرب مسبقاً على بيانات مخصصة.

تمهيد النموذج

Model Initialization

تحديد القيم الابتدائية للأوزان.

حفظ نقطة التحقق

Model Checkpointing

حفظ نسخ من النموذج أثناء التدريب.

إصدارية النموذج

Model Versioning

إدارة وإصدار نسخ مختلفة من النموذج.

اختزال الأبعاد

Dimensionality Reduction

تقليص عدد المتغيرات مع الحفاظ على المعلومات.

إسقاط عشوائي

Dropout

تقنية إسقاط وحدات عشوائية لتعزيز التعميم.

تقسيم البيانات

Data Splitting

تقسيم البيانات إلى تدريب وتحقق واختبار.

إكثار البيانات

Data Augmentation

إنشاء نسخ معدّلة من بيانات التدريب.

قص التدرج

Gradient Clipping

تحديد الحد الأقصى لقيم التدرجات.

مُنظِّم Adam

Adam Optimizer

خوارزمية تحسين تجمع بين Adagrad و RMSProp.

مُنظِّم SGD

SGD Optimizer

خوارزمية التحسين التدريجي العشوائي.

تطبيع الدفعة

Batch Normalization

تقنية لتطبيع مخرجات كل طبقة.

التعلم متعدد المهام

Multi-task Learning

تدريب نموذج واحد على عدة مهام.

إعادة تشكيل البيانات

Reshaping

تغيير شكل مصفوفة البيانات.

تحسين المعلمات

Parameter Optimization

البحث عن أفضل قيم المعلمات.

البحث الشبكي

Grid Search

اختبار جميع التوافيق الممكنة للمعلمات للعثور على أفضل إعداد.

البحث العشوائي

Random Search

اختبار قيم عشوائية من فضاء المعلمات.

التحسين البايزي

Bayesian Optimization

استخدام نموذج احتمالي لتوجيه البحث.

نزول التدرج

Gradient Descent

خوارزمية تحديث الأوزان لتقليل الخطأ.

التنشيط الخامل

Dead ReLU

حالة عدم عمل وحدة تنشيط.

تنظيم L2

L2 Regularization

غرامة تعتمد على مربع الأوزان.

تنظيم L1

L1 Regularization

غرامة تعتمد على القيمة المطلقة.

جدولة معدل التعلم

Learning Rate Schedule

تغيير معدل التعلم تدريجياً أثناء التدريب.

التسخين المبدئي

Warmup

زيادة تدريجية لمعدل التعلم في بداية التدريب لتحسين الاستقرار.