معجم الذكاء الاصطناعي

تقليل البيانات

Data Minimization

مبدأ جمع وحفظ أقل قدر من البيانات الشخصية اللازمة للغرض، فتقل مساحة كشف الخصوصية وتكاليف الحماية والانتهاكات المحتملة.

الاستدلال الخاص

Private Inference

الاستدلال على البيانات الحساسة مع الحفاظ على خصوصيتها بتقنيات التشفير المتماثل والحساب الخاص، فتُحسب النتائج دون رؤية الخام.

التدريب الخاص

Private Training

التدريب على بيانات موزعة مشفرة أو موزعة بطرق متحفظة للخصوصية، فيُدرب النموذج المشترك دون انكشاف بيانات أي طرف.

ميزانية الخصوصية

Privacy Budget

حصة محدودة من الخصوصية يسمح بها النظام للاستعلامات أو التحليلات المستمرة، ويُراقب استهلاكها للحد من تسرب المعلومات عبر المرات المتتالية.

هجوم استنتاج العضوية

Membership Inference Attack

هجوم يستنتج فيه المهاجم استمداد سجل معين في مجموعة تدريب النموذج من ملاحظة مخرجاته، فيكشف وجود بيانات شخصية في التدريب.

التفضيلات البشرية

Human Preferences

تفضيلات الإنسان وذوقه في شأن المفاضلات بين الإجابات، والتي تُغذى في التدريب ليراعيها النموذج استجابةً للصفة المرغوبة.

التعلم من التغذية البشرية

RLHF

تدريب بتغذية راجعة من البشر للمواءمة: يُصَنَّف ردود النموذج حسب تفضيل البشر ثم يُدرب نموذج مكافأة ليرفع جودة الإجابات عند تحويل الأوزان.

رفض الاستجابة الضارة

Harmful Response Rejection

رفض النموذج إكمال الطلب الضار أو تفادي المخرج المؤذي بمجرد تلمحه للخطر الشديد، بردٍّ آمن أو توجيه مفيد بدل الامتثال، كاستجابة الدفاعية عن الأمن.

اتباع التعليمات

Instruction Following

التزام النموذج بالتعليمات الواردة في المحفز بفهم صحیح بلا تحريف، بما يحقق طلب المستخدم في النطاق المسموح.

الصدق

Truthfulness

صدق النموذج وعدم اختلاق معلومات لا تعرفها، والاعتراف بحدود العلم أو الإشارة إلى ما يجهله، وهو هدف مباشر ضد الهلوسة.

المساعدة

Helpfulness

أن يسعى النموذج لتقديم قيمة فائدة للمستخدم: إجابات واضحة كاملة، وتفاعلية، تحل مبتغاه بلا تعقيد، وهي نية الحسم في التصميم.

عدم الإضرار

Harmlessness

الحفاظ على أمان التعامل وعدم الانحدار إلى مخرجات مضرة أو تحريضية أو عنيفة، حتى عند الطلب المتصلب عليها. وهي نية الجامعة.

قابلية التدقيق

Auditability

قابلية التدقيق: قدرة الأطراف الخارجية على فحص بيانات النظام وسلوكه وقراراته ووثائقه، للتحقق من مطابقته للمعايير ومنطق عمله.

إمكانية التتبع

Traceability

إمكانية تتبع الخطوات والقرارات من المخرجات عودةً إلى بياناتها ونماذجها وتوقيتها، عبر سجلات ووثائق تسمح بإعادة بناء التاريخ المكتوب.

الاعتمادية

Reliability

الاعتمادية: عمل النظام بشكل متوقع ومطابق للمواصفات في الاستعمال المعتاد، بنسب استقرار وجاهزية عالية، وأساس لكسب الثقة من المستخدمين.

المرونة

Resilience

المرونة: قدرة النظام على امتصاص الصدمات والأخطاء والهجمات والعودة سريعًا للعمل المطلوب، عبر تضمين التسامح والتخطيط للأحوال الطارئة.

الخصوصية حسب التصميم

Privacy by Design

الخصوصية حسب التصميم: دمج ضوابط الخصوصية في تصميم النظام من اليوم الأول لا كإضافة لاحقة، كمبدأ المحافظة على بيانات الأفراد طيلة المراحل.

السلامة حسب التصميم

Safety by Design

السلامة حسب التصميم: إدماج ضمانات السلامة في بنيات النظام وتدفقات قراراته بدءًا من التصميم، فيقل خطر الأضرار قبل حدوثها.

الإشراف البشري

Human Oversight

الإشراف البشري: احتفاظ الإنسان بالرقابة أو القرار في النقاط الحرجة أي تلقائي سلوك النظام، سواء بالمراجعة المسبقة أو الاعتراض أو التجاوز.

الإنصاف الإجرائي

Procedural Fairness

الإنصاف الإجرائي: عدالة عمليات اتخاذ القرار والإجراءات والسياسات لا النتائج فحسب، فتُعطى الحالات المتشابهة معاملة متساوية وبمقدمات موثقة.

التوثيق المنهجي

Systematic Documentation

التوثيق المنهجي: تسجيل قرارات التصميم ومصادر البيانات وقيودها وأهدافها بشكل منظم طوال دورة الحياة، فيتاح تتبع المبررات والمراجعات والتحسينات.

حقن المطالَبَة

Prompt Injection

يحقن المهاجم تعليمات خفية داخل مدخل لتجاوز قيود النموذج.

الهجوم الخصومي

Adversarial Attack

تعديل مدخلات متناهٍ لخداع النموذج عن مقصد صواب.

تسميم بيانات التدريب

Data Poisoning

حقن عينات فاسدة في التدريب لتخريب سلوك النموذج.

كشف السمية

Toxicity Detection

رصد الكلام التمييزي أو السيئ وخطره في المحتوى.

علامات المحتوى المائية

Content Watermarking

بصمة غير مرئية تثبت أصالة الوسائط المولّدة.

الإفصاح عن التوليد

Disclosure of AI Content

إخبار المستخدم بأن المحتوى أُنتج آليًا.

انحياز الأتمتة

automation bias

ميل صنّاع القرار لتفضيل توصيات الأنظمة الآلية رغم أخطائها.

الانحياز (أخلاقياً)

bias (ethics/fairness)

التحيّز أو التفضيل لجماعات دون أخرى في جمع البيانات أو تصميم النظام أو تفاعله.

الانحياز التأكيدي

confirmation bias

الميل إلى البحث عن المعلومات وتفسيرها وتفضيلها واسترجاعها بطريقة تؤكد معتقدات الفرد أو فرضياته المسبقة. قد يجمع مطورو تعلّم الآلة البيانات أو يصنفونها دون قصد بطرق تؤثر في النتيجة بما يدعم معتقداتهم القائمة.

العدالة المضاعفة الواقعية

counterfactual fairness

مبدأ أن لا يختلف قرار النموذج لو تغيّر خاصية محمية معطاة ثابتة سياق العمل.

انحياز التغطية

coverage bias

انحياز ناشئ عن إقصاء بعض المجموعات من البيانات المتاحة.

مكافئ الديمغرافي

demographic parity

شرط عدالة أن يكون احتمال التوقع الفئوي مستقلاً عن السمة المحمية.

المعاملة التفاضلية

disparate treatment

معاملة مختلفة عمداً أو يفضي بها القصد لأفراد مجموعات مختلفة.

تكافؤ الفرص

equality of opportunity

شرط عدالة أن تكون معدلات الإيجابية الصحيحة متساوية بين المجموعات.

الاحتمالات المعادلة

equalized odds

شرط عدالة يساوي معدل الأخطاء بين المجموعات ليعادل الرنين.

انحياز المُجرب

experimenter's bias

انظر: انحياز التأكيد.

انحياز الإسناد الجماعي

group attribution bias

افتراض أن ما ينطبق على فرد ينطبق أيضًا على جميع أفراد مجموعته؛ وقد تتفاقم آثار هذا الانحياز إذا استُخدمت عينة ميسّرة في جمع البيانات.

الانحياز التاريخي

historical bias

نوع من الانحياز موجود أصلًا في العالم ودخل إلى مجموعة البيانات. تميل هذه الانحيازات إلى عكس القوالب النمطية الثقافية القائمة وأوجه عدم المساواة الديموغرافية والأحكام المسبقة ضد جماعات اجتماعية معينة.

الإنسان في الحلقة

human in the loop (hitl)

تعبير شائع غير محدد الدلالة بدقة، وقد يشير إلى أحد المعنيين: مشاركة الإنسان في مراحل تطوير النموذج، أو الإشراف البشري على تشغيل النظام وقراراته.