معجم الذكاء الاصطناعي

المحولات

Transformers

بنية نموذجية تعتمد على آلية الانتباه.

آلية الانتباه

Attention Mechanism

آلية تتيح للنموذج التركيز على أجزاء محددة.

الترميز الموضعي

Positional Encoding

إضافة معلومات عن ترتيب العناصر في التسلسل.

طبقة الانتباه متعدد الرؤوس

Multi-Head Attention

تنفيذ آليات انتباه متعددة بشكل متزامن.

الترميز وفك الترميز

Encoder-Decoder

بنية تتألف من جزء للترميز وآخر لتوليد المخرج.

شبكة التغذية الأمامية

Feed-Forward Network

شبكة عصبية تعمل بشكل أحادي الاتجاه.

التطبيع الداخلي

Layer Normalization

تقنية لتطبيع المخرجات في كل طبقة.

الارتباط المتبقية

Residual Connection

ربط مباشر بين طبقات لتخفيف التلاشي التدريجي.

الانتباه العابر

Cross-Attention

نوع انتباه يربط بين الترميز وفك الترميز.

الشبكة التلافيفية

Convolutional Neural Network

شبكات تستخدم طبقات التلافيف لاكتشاف المعالم.

الشبكة الدورية

Recurrent Neural Network

شبكة تمتلك اتصالات دورية للبيانات التسلسلية.

الذاكرة قصيرة المدى

Short-term Memory

قدرة النموذج على الاحتفاظ بالمعلومات مؤقتاً.

الذاكرة طويلة المدى

Long-term Memory

قدرة النموذج على الاحتفاظ بالمعلومات لفترات طويلة.

البنية التجميعية

Ensemble Architecture

دمج عدة نماذج للعمل معاً.

البنية الأحادية

Monolithic Architecture

تصميم النموذج كوحدة واحدة متكاملة.

طبقة الالتفاف مع دوال التنشيط

Convolutional Layer with activation functions

عنصر بنيوي طبقة الالتفاف مستخدم مع دوال التنشيط في هندسة النماذج العميقة.

الطبقات المتقدمة مع الترميزات

Advanced Layers with embeddings

عنصر بنيوي الطبقات المتقدمة مستخدم مع الترميزات في هندسة النماذج العميقة.

المعمارية العصبية في الشبكات العصبية

Neural Architecture with hidden layers

عنصر بنيوي المعمارية العصبية مستخدم في الشبكات العصبية في هندسة النماذج العميقة.

ضغط المعلومات مع الترميزات

Information Bottleneck with embeddings

عنصر بنيوي ضغط المعلومات مستخدم مع الترميزات في هندسة النماذج العميقة.

ضغط المعلومات في بنية الترميز-فك الترميز

Information Bottleneck with encoder-decoder

عنصر بنيوي ضغط المعلومات مستخدم في بنية الترميز-فك الترميز في هندسة النماذج العميقة.

طبقة التطبيع للنماذج العميقة

Normalization Layer with deep models

عنصر بنيوي طبقة التطبيع مستخدم للنماذج العميقة في هندسة النماذج العميقة.

فك تسلسلي مع المحللات

Sequential Decoding (parsers)

عنصر معماري فك تسلسلي مستخدم مع المحللات في النماذج العميقة.

توليد الأعماق عبر الطبقات

Layer Stacking across layers

بنية نموذجية توليد الأعماق عبر الطبقات لتحسين الأداء.

تقنيع الرموز كحلقة إضافية

Token Masking auxiliary

بنية نموذجية تقنيع الرموز كحلقة إضافية لتحسين الأداء.

الدقة الحسابية عبر طبقات المتانسفور

Numerical Precision with transformer layers

عنصر بنيوي الدقة الحسابية مستخدم عبر طبقات المتانسفور في هندسة النماذج العميقة.

سلم الترميز بموازاة الأداء

Encoding Ladder (performance)

عنصر معماري سلم الترميز مستخدم بموازاة الأداء في النماذج العميقة.

بوابة القرار مع التفكير

Decision Gate (thought)

عنصر معماري بوابة القرار مستخدم مع التفكير في النماذج العميقة.

الطبقات المتقدمة في بنية الترميز-فك الترميز

Advanced Layers with encoder-decoder

عنصر بنيوي الطبقات المتقدمة مستخدم في بنية الترميز-فك الترميز في هندسة النماذج العميقة.

تمييز الالتفاف في التحويل

Convolution Decimation latent

بنية نموذجية تمييز الالتفاف في التحويل لتحسين الأداء.

الاتصالات المتبقية عبر طبقات المتانسفور

Residual Connections with transformer layers

عنصر بنيوي الاتصالات المتبقية مستخدم عبر طبقات المتانسفور في هندسة النماذج العميقة.

تدرج الاستعلامات بمعمارية هجينة

Query Streaming hybrid

بنية نموذجية تدرج الاستعلامات بمعمارية هجينة لتحسين الأداء.

المعمارية العصبية في المحلل اللغوي

Neural Architecture with recurrent layers

عنصر بنيوي المعمارية العصبية مستخدم في المحلل اللغوي في هندسة النماذج العميقة.

التجليد الرمزي عبر الطبقات

Token Binding across layers

بنية نموذجية التجليد الرمزي عبر الطبقات لتحسين الأداء.

التسرب العشوائي لتحسين التقارب

Dropout with convergence

عنصر بنيوي التسرب العشوائي مستخدم لتحسين التقارب في هندسة النماذج العميقة.

الاستدلال المتدرج وسط القيود

Hierarchical Inference (constraints)

عنصر معماري الاستدلال المتدرج مستخدم وسط القيود في النماذج العميقة.

تثبيت الأوزان في المدخلات الطويلة

Weight Freezing for long inputs

بنية نموذجية تثبيت الأوزان في المدخلات الطويلة لتحسين الأداء.

ترميز الحدود عند الاستدلال

Boundary Encoding inference-time

بنية نموذجية ترميز الحدود عند الاستدلال لتحسين الأداء.

طبقة الالتفاف للنماذج العميقة

Convolutional Layer with deep models

عنصر بنيوي طبقة الالتفاف مستخدم للنماذج العميقة في هندسة النماذج العميقة.

تمثيل النافذة في النماذج الصغيرة

Window Representation small models

بنية نموذجية تمثيل النافذة في النماذج الصغيرة لتحسين الأداء.

إعادة المعلمة مع المواضع

Re-Parameterization with positions

بنية نموذجية إعادة المعلمة مع المواضع لتحسين الأداء.