معجم الذكاء الاصطناعي

هجوم استنتاج العضوية

Membership Inference Attack

هجوم يستنتج فيه المهاجم استمداد سجل معين في مجموعة تدريب النموذج من ملاحظة مخرجاته، فيكشف وجود بيانات شخصية في التدريب.

التفضيلات البشرية

Human Preferences

تفضيلات الإنسان وذوقه في شأن المفاضلات بين الإجابات، والتي تُغذى في التدريب ليراعيها النموذج استجابةً للصفة المرغوبة.

التعلم من التغذية البشرية

RLHF

تدريب بتغذية راجعة من البشر للمواءمة: يُصَنَّف ردود النموذج حسب تفضيل البشر ثم يُدرب نموذج مكافأة ليرفع جودة الإجابات عند تحويل الأوزان.

رفض الاستجابة الضارة

Harmful Response Rejection

رفض النموذج إكمال الطلب الضار أو تفادي المخرج المؤذي بمجرد تلمحه للخطر الشديد، بردٍّ آمن أو توجيه مفيد بدل الامتثال، كاستجابة الدفاعية عن الأمن.

اتباع التعليمات

Instruction Following

التزام النموذج بالتعليمات الواردة في المحفز بفهم صحیح بلا تحريف، بما يحقق طلب المستخدم في النطاق المسموح.

الصدق

Truthfulness

صدق النموذج وعدم اختلاق معلومات لا تعرفها، والاعتراف بحدود العلم أو الإشارة إلى ما يجهله، وهو هدف مباشر ضد الهلوسة.

المساعدة

Helpfulness

أن يسعى النموذج لتقديم قيمة فائدة للمستخدم: إجابات واضحة كاملة، وتفاعلية، تحل مبتغاه بلا تعقيد، وهي نية الحسم في التصميم.

عدم الإضرار

Harmlessness

الحفاظ على أمان التعامل وعدم الانحدار إلى مخرجات مضرة أو تحريضية أو عنيفة، حتى عند الطلب المتصلب عليها. وهي نية الجامعة.

قابلية التدقيق

Auditability

قابلية التدقيق: قدرة الأطراف الخارجية على فحص بيانات النظام وسلوكه وقراراته ووثائقه، للتحقق من مطابقته للمعايير ومنطق عمله.

إمكانية التتبع

Traceability

إمكانية تتبع الخطوات والقرارات من المخرجات عودةً إلى بياناتها ونماذجها وتوقيتها، عبر سجلات ووثائق تسمح بإعادة بناء التاريخ المكتوب.

الاعتمادية

Reliability

الاعتمادية: عمل النظام بشكل متوقع ومطابق للمواصفات في الاستعمال المعتاد، بنسب استقرار وجاهزية عالية، وأساس لكسب الثقة من المستخدمين.

المرونة

Resilience

المرونة: قدرة النظام على امتصاص الصدمات والأخطاء والهجمات والعودة سريعًا للعمل المطلوب، عبر تضمين التسامح والتخطيط للأحوال الطارئة.

الخصوصية حسب التصميم

Privacy by Design

الخصوصية حسب التصميم: دمج ضوابط الخصوصية في تصميم النظام من اليوم الأول لا كإضافة لاحقة، كمبدأ المحافظة على بيانات الأفراد طيلة المراحل.

السلامة حسب التصميم

Safety by Design

السلامة حسب التصميم: إدماج ضمانات السلامة في بنيات النظام وتدفقات قراراته بدءًا من التصميم، فيقل خطر الأضرار قبل حدوثها.

الإشراف البشري

Human Oversight

الإشراف البشري: احتفاظ الإنسان بالرقابة أو القرار في النقاط الحرجة أي تلقائي سلوك النظام، سواء بالمراجعة المسبقة أو الاعتراض أو التجاوز.

الإنصاف الإجرائي

Procedural Fairness

الإنصاف الإجرائي: عدالة عمليات اتخاذ القرار والإجراءات والسياسات لا النتائج فحسب، فتُعطى الحالات المتشابهة معاملة متساوية وبمقدمات موثقة.

التوثيق المنهجي

Systematic Documentation

التوثيق المنهجي: تسجيل قرارات التصميم ومصادر البيانات وقيودها وأهدافها بشكل منظم طوال دورة الحياة، فيتاح تتبع المبررات والمراجعات والتحسينات.

تقييم الأثر أثناء التشغيل

Impact Assessment in model development

مبدأ أخلاقي تقييم الأثر أثناء التشغيل لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

الحماية من التحيّز عبر دورة الحياة

Bias Protection in model development

مبدأ أخلاقي الحماية من التحيّز عبر دورة الحياة لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

العدالة بين المجموعات للأجيال

Group Fairness for Future Generations

مبدأ أخلاقي العدالة بين المجموعات للأجيال في عصر الذكاء الاصطناعي.

التقييم الأخلاقي للشركات

Moral Assessment for Companies

مبدأ أخلاقي التقييم الأخلاقي للشركات في عصر الذكاء الاصطناعي.

الشاملية للشركات

Inclusivity for Companies

مبدأ أخلاقي الشاملية للشركات في عصر الذكاء الاصطناعي.

الاستعداد للمخاطر في النشر

Risk Preparedness in Deployment

مبدأ أخلاقي الاستعداد للمخاطر في النشر لضمان عدالة ومسؤولية الذكاء الاصطناعي.

إدارة المخاطر عند إعادة التدريب

Risk Management in model development

مبدأ أخلاقي إدارة المخاطر عند إعادة التدريب لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

الضبط التنظيمي للقطاع العام

Regulatory Oversight for Public Sector

مبدأ أخلاقي الضبط التنظيمي للقطاع العام في عصر الذكاء الاصطناعي.

الرقابة التعليمية للأفراد

Educational Oversight for Individuals

مبدأ أخلاقي الرقابة التعليمية للأفراد في عصر الذكاء الاصطناعي.

الحق في التفسير للنماذج

Right to Explanation for Models

مبدأ أخلاقي الحق في التفسير للنماذج في عصر الذكاء الاصطناعي.

الحق في التفسير للعالم

Right to Explanation for Globally

مبدأ أخلاقي الحق في التفسير للعالم في عصر الذكاء الاصطناعي.

الحماية المؤسسية في المؤسسات

Institutional Safeguards in Organizations

مبدأ أخلاقي الحماية المؤسسية في المؤسسات لضمان عدالة ومسؤولية الذكاء الاصطناعي.

الضبط التنظيمي للوظائف

Regulatory Oversight for Workforces

مبدأ أخلاقي الضبط التنظيمي للوظائف في عصر الذكاء الاصطناعي.

المسؤولية البيئية للخوارزميات

Environmental Responsibility for Algorithms

مبدأ أخلاقي المسؤولية البيئية للخوارزميات في عصر الذكاء الاصطناعي.

المسؤولية البيئية للشركات

Environmental Responsibility for Companies

مبدأ أخلاقي المسؤولية البيئية للشركات في عصر الذكاء الاصطناعي.

الإنصاف الخوارزمي في البيانات

Algorithmic Fairness in Data

مبدأ أخلاقي الإنصاف الخوارزمي في البيانات لضمان عدالة ومسؤولية الذكاء الاصطناعي.

الحياد المؤسسي للوظائف

Institutional Neutrality for Workforces

مبدأ أخلاقي الحياد المؤسسي للوظائف في عصر الذكاء الاصطناعي.

الحد من الأضرار الاجتماعية للنماذج

Social Harm Reduction for Models

مبدأ أخلاقي الحد من الأضرار الاجتماعية للنماذج في عصر الذكاء الاصطناعي.

الأثر المجتمعي عند الابتكار

Societal Impact in Innovation

مبدأ أخلاقي الأثر المجتمعي عند الابتكار لضمان عدالة ومسؤولية الذكاء الاصطناعي.

الأثر المجتمعي لصناع القرار

Societal Impact for Policymakers

مبدأ أخلاقي الأثر المجتمعي لصناع القرار لضمان عدالة ومسؤولية الذكاء الاصطناعي.

الشفافية العملية للمستخدمين

Operational Transparency for Users

مبدأ أخلاقي الشفافية العملية للمستخدمين لضمان عدالة ومسؤولية الذكاء الاصطناعي.

الرقابة التعليمية للأجيال

Educational Oversight for Future Generations

مبدأ أخلاقي الرقابة التعليمية للأجيال في عصر الذكاء الاصطناعي.

الخصوصية بالتكوين في النشر

Privacy by Design in Deployment

مبدأ أخلاقي الخصوصية بالتكوين في النشر لضمان عدالة ومسؤولية الذكاء الاصطناعي.