معجم الذكاء الاصطناعي

هجوم FGSM

FGSM Attack

هجوم تخاطفي بسيط وسريع يستخدم التدرج لتعديل المدخلات.

هجوم PGD

PGD Attack

هجوم تخاطفي متكرر قوي يستهدف نماذج التعلم الآلي.

المتانة المعتمدة

Certified Robustness

ضمان رياضي لمقاومة النموذج للهجمات المضللة.

عكس النموذج

Model Inversion

استنتاج المدخلات الأصلية من مخرجات النموذج المدرب.

التعلم المعزز المتقدم بالتغذية الراجعة

Advanced RLHF

تحسينات متقدمة على التعلم المعزز باستخدام تغذية راجعة بشرية.

تحسين التفضيلات المباشر

Direct Preference Optimization

تحسين تفضيلات المستخدم مباشرة بدون نموذج مكافأة منفصل.

تحسين KTO

Kahneman-Tversky Optimization

تحسين بناءً على نظرية النظرة لسيكولوجية القرارات.

تحسين ORPO

Odds Ratio Preference Optimization

تحسين بناءً على نسبة الاحتمالات للتفضيلات.

الذكاء الاصطناعي الدستوري

Constitutional AI

ضبط النموذج بمجموعة قواعد أخلاقية دستورية.

اللعب الذاتي

Self-Play

التعلم من اللعب مع الذات لتحسين الأداء.

الضبط الدقيق للسلامة

Safety Fine-tuning

ضبط دقيق لتحسين سلامة النموذج.

فريق الاختبار الأحمر

Red Teaming

اختبار الأمان عبر محاكاة الهجمات.

منع اختراق الحماية

Jailbreak Prevention

منع محاولات التحاقي على آليات حماية النموذج.

تعلم القيم

Value Learning

تعلم القيم الإنسانية ودمجها في النموذج.

الإشراف القابل للتوسع

Scalable Oversight

إشراف قابل للتوسع على النماذج الكبيرة.

التعميم من الضعيف إلى القوي

Weak-to-Strong Generalization

تعميم قرارات النموذج الضعيف إلى نموذج قوي.

محاذاة النقاش

AI Debate

محاذاة النموذج عبر النقاش والحوار المتبادل.

التكرار في التعلم المعزز بالتغذية الراجعة

Iterative RLHF

تكرار عملية التعلم المعزز بالتغذية الراجعة البشرية.

حقن النماذج اللغوية

LLM Prompt Injection

حقن تعليمات خبيثة في المحفزات.

تسريب البيانات من النماذج

LLM Data Leakage

تسريب بيانات تدريب عبر استعلامات ذكية.

الهجمات على RAG

RAG Attacks

هجمات تستغل ثغرات أنظمة RAG.

الحقن الخفي في المحفزات

Covert Prompting

حقن مخفي في المحفزات لتعديل سلوك النموذج.

منع توليد المحتوى الضار

Harmful Content Prevention

منع توليد محتوى ضار أو خطير من النماذج.

حواجز حماية النماذج

LLM Guardrails

حواجز حماية لتقييد سلوك النموذج ومنع الإساءة.

تصفية المحتوى

Content Filtering

تصفية المحتوى الخاطئ من مخرجات النماذج.

التحقق من صحة المدخلات

Input Validation

التحقق من صحة وسلامة مدخلات المستخدم.

وضع العلامات المائية للنماذج

Model Watermarking

وضع علامات مائية على مخرجات النموذج للتمييز.

مصنفات أمان النماذج

Safety Classifiers

مصنفات أمان لتقييد مخرجات النماذج الضارة.

اكتشاف محاولات اختراق الحماية

Jailbreak Detection

اكتشاف محاولات تجاوز حماية النموذج.

تقليل الهلوسة

Hallucination Mitigation

تقليل ظاهرة الهلوسة في مخرجات النماذج اللغوية.

التحقق من حقيقة المعلومات

Factuality Checking

التحقق من صحة ودقة المعلومات المولدة.

اكتشاف التحيز في نماذج اللغة

LLM Bias Detection

اكتشاف التحيز في نماذج اللغة الكبيرة.

تقليل التحيز

Bias Mitigation

تقليل التحيز في نماذج التعلم الآلي.

التعلم الآلي المراعي للعدالة

Fairness-Aware ML

تعلم آلي مع مراعاة العدالة والتوزيع العادل.

شفافية النماذج

Model Transparency

شفافية نماذج التعلم الآلي في اتخاذ القرارات.

مساءلة الذكاء الاصطناعي

AI Accountability

مساءلة واستقصاء استخدام الذكاء الاصطناعي.

التأثير البيئي للذكاء الاصطناعي

AI Environmental Impact

تأثير الذكاء الاصطناعي على البيئة.

الذكاء الاصطناعي لخدمة المجتمع

AI for Social Good

استخدام الذكاء الاصطناعي لخدمة المجتمع.

الخصوصية المميزة المتقدمة

Advanced DP

تقنيات الخصوصية المميزة المتقدمة.

خصوصية البيانات الاصطناعية

Synthetic Data Privacy

توليد بيانات محاكاة مع الحفاظ على الخصوصية.