معجم الذكاء الاصطناعي

الهجمات التسميمية

poisoning attacks

هجمات خصومة يتدخل فيها خصم في نموذج أثناء مرحلة تدريبه، كإدراج بيانات تدريب خبيثة (تسميم البيانات) أو تعديل عملية التدريب نفسها (تسميم النموذج).

التفسير اللاحق (Post-hoc)

post-hoc explanation

تستهدف قابلية التفسير اللاحق النماذج غير القابلة للتفسير بسهولة بالتصميم، عبر اللجوء إلى وسائل متنوعة لتعزيز قابلية تفسيرها، مثل التفسيرات النصية والبصرية والمحلية والتفسير بالمثال والتفسير بالتبسيط وتقنيات تفسير أهمية الميزات. تغطي كل واحدة من هذه التقنيات أحد أكثر الطرق شيوعًا التي يشرح بها البشر النظم:

تنقيب البيانات الحافظ للخصوصية

privacy preserving data mining

امتداد لتقنيات التنقيب التقليدية للعمل مع بيانات مُعدَّلة لإخفاء المعلومات الحساسة.

الخصوصية بالتصميم

privacy-by-design

تضمين تدابير الخصوصية والتقنيات معززة الخصوصية مباشرةً في تصميم تقنيات المعلومات وأنظمتها.

السمة المحمية المميزة

privileged protected attribute

قيمة من السمة المحمية تشير إلى مجموعة كانت تاريخياً في وضع ميزة منهجية.

السمة المحمية

protected attribute

سمة تقسم مجموعة سكانية إلى مجموعات يجب أن تتكافأ نتائجها. من الأمثلة: العرق والنوع (الجندر) والطائفة والدين. السمات المحمية ليست عالمية، بل خاصة بالتطبيق.

الفريق الأحمر

red team

ممارسة يتحدى فيها فريق أحمر أو مجموعة مستقلة جهة ما لتحسين فاعليتها بافتراض دور أو وجهة نظر خصومية؛ تُستخدم غالباً للمساعدة في تحديد ثغرات الأمن المحتملة ومعالجتها.

المسؤولية

responsibility

القدرة على الوفاء بالتزام أو واجب؛ أو صفة الموثوقية والجدارة بالثقة؛ أو حالة المساءلة عن الأفعال؛ أو التبعة عن فعل ما.

السيطرة على المخاطر

risk control

آليات في مراحل التصميم والتنفيذ والتقييم يُؤخذ بها عند تطوير ذكاء اصطناعي مسؤول للمؤسسات، وتشمل مخاطر أمنية (مخاطر الاختراق السيبراني والخصوصية وبرمجيات المصدر المفتوح) ومخاطر اقتصادية (مثل مخاطر إزاحة الوظائف) ومخاطر أداء (مثل مخاطر الأخطاء والانحياز ومخاطر الصندوق الأسود وقابلية التفسير).

الذكاء الاصطناعي المتين

robust ai

نظام ذكاء اصطناعي مرن في البيئات الواقعية، كتطبيق التعرف على الأجسام الصامد أمام تغيرات كبيرة في الإضاءة؛ ويشير المصطلح أيضًا إلى الاستبطان أمام الهجمات الخصومية على مكونات الذكاء الاصطناعي.

متانة الذكاء الاصطناعي

robustness ai

تشمل متانة نظام الذكاء الاصطناعي متانته التقنية (المناسبة في سياق معيّن، مثل مجال التطبيق أو مرحلة دورة الحياة) فضلًا عن متانته من منظور اجتماعي (ضمان أن يراعي نظام الذكاء الاصطناعي جيدًا السياق والبيئة اللذين يعمل فيهما). وهذا أمر حاسم لضمان أنه حتى مع النوايا الحسنة، لا يقع ضرر غير مقصود...

الاستبعاد بالفرز

screen out

تمييز استبعادي يقع حين تمنع إعاقة متقدماً لوظيفة أو موظفاً من تلبية معيار انتقاء (أو تخفض أداءهم فيه)، فيفقد المتقدم أو الموظف فرصة العمل نتيجة لذلك.

الأمان

security

مقاومة الأفعال المتعمدة وغير المصرح بها المراد بها إحداث ضرر أو تلف في نظام.

نظام ذاتي الإصلاح

self-healing system

نظام حاسوبي قادر على إدراك أنه لا يعمل بشكل صحيح ثم إجراء التعديلات اللازمة، دون تدخل بشري، لاستعادة حالته الطبيعية.

الإحصاء

statistics

بيانات رقمية تتعلق بمجموع من الأفراد؛ علم جمع هذه البيانات وتحليلها وتفسيرها.

الذكاء الفائق

superintelligence

القدرة على إدراك ما يتجاوز النطاق الطبيعي للذكاء أو الفهم البشري.

خطوط الدفاع الثلاثة

three lines of defense

تتبع معظم المؤسسات المالية نموذج خطوط الدفاع الثلاثة، الذي يفصل مجموعات الخط الأمامي المسؤولة عادة عن مخاطر الأعمال (الخط الأول) عن مجموعات الإشراف على المخاطر والتحدي المستقل (الخط الثاني) وعن مجموعات الضمان (الخط الثالث).

الثقة

trust

تُعد الثقة مجموعة معتقدات محددة تتعلق بالإحسان والكفاءة والنزاهة والقابلية للتنبؤ (معتقدات الثقة)، أو استعداد أحد الأطراف للاعتماد على آخر في موقف محفوف بالمخاطر (نية الثقة)، أو الجمع بين أنظمة الذكاء الاصطناعي الممتثلة قانونياً والمتسقة أخلاقياً والمتينة الموثوقة.

الموثوقية

trustworthiness

درجة توقع الحفاظ من نظام معلومات (بما فيه مكونات تقنية المعلومات المستخدمة في بناء النظام) على السرية والنزاهة والتوافر للمعلومات التي يعالجها أو يخزنها أو ينقلها عبر كامل نطاق التهديدات وخصوصية الأفراد.

الذكاء الاصطناعي الجدير بالثقة

trustworthy ai

للذكاء الاصطناعي الجدير بالثقة ثلاثة مكونات: (1) ينبغي أن يكون قانونيًا، بضمان الامتثال لجميع القوانين واللوائح المعمول بها؛ (2) ينبغي أن يكون أخلاقيًا، باحترام المبادئ والقيم الأخلاقية وضمان الالتزام بها؛ (3) ينبغي أن يكون متينًا (robust)، من منظور تقني واجتماعي معًا، إذ حتى مع النوايا الحسنة يمكن لأنظمة الذكاء الاصطناعي أن تسبب ضررًا غير مقصود. من خصائص...

التصميم الحساس للقيم

value sensitive design

نهج ذو أساس نظري لتصميم التقنية يراعي القيم الإنسانية بطريقة مبدئية ومنهجية طوال عملية التصميم.

الحد من الأضرار الاجتماعية للوظائف

Social Harm Reduction for Workforces

مبدأ أخلاقي الحد من الأضرار الاجتماعية للوظائف في عصر الذكاء الاصطناعي.

الامتثال للمعايير بشراكة المجتمع

Standards Compliance in model development

مبدأ أخلاقي الامتثال للمعايير بشراكة المجتمع لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

ضمان الخصوصية لكل الأطراف

Privacy Assurance in model development

مبدأ أخلاقي ضمان الخصوصية لكل الأطراف لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

حماية الفئات الضعيفة في تطوير النماذج

Vulnerable Protection in model development

مبدأ أخلاقي حماية الفئات الضعيفة في تطوير النماذج لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

الاستجابة الأخلاقية عند إعادة التدريب

Ethical Response in model development

مبدأ أخلاقي الاستجابة الأخلاقية عند إعادة التدريب لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

تقييم الأثر أثناء التشغيل

Impact Assessment in model development

مبدأ أخلاقي تقييم الأثر أثناء التشغيل لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

الحماية من التحيّز عبر دورة الحياة

Bias Protection in model development

مبدأ أخلاقي الحماية من التحيّز عبر دورة الحياة لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

العدالة بين المجموعات للأجيال

Group Fairness for Future Generations

مبدأ أخلاقي العدالة بين المجموعات للأجيال في عصر الذكاء الاصطناعي.

الرقابة المسؤولة أثناء التشغيل

Responsible Oversight in model development

مبدأ أخلاقي الرقابة المسؤولة أثناء التشغيل لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

التقييم الأخلاقي للشركات

Moral Assessment for Companies

مبدأ أخلاقي التقييم الأخلاقي للشركات في عصر الذكاء الاصطناعي.

الحوكمة المسؤولة في المؤسسات

Responsible Governance in Organizations

مبدأ أخلاقي الحوكمة المسؤولة في المؤسسات لضمان عدالة ومسؤولية الذكاء الاصطناعي.

المواطنة الرقمية للعالم

Digital Citizenship for Globally

مبدأ أخلاقي المواطنة الرقمية للعالم في عصر الذكاء الاصطناعي.

التقييم الأخلاقي للعالم

Moral Assessment for Globally

مبدأ أخلاقي التقييم الأخلاقي للعالم في عصر الذكاء الاصطناعي.

الحق في التفسير للوظائف

Right to Explanation for Workforces

مبدأ أخلاقي الحق في التفسير للوظائف في عصر الذكاء الاصطناعي.

المساءلة عبر دورة الحياة

Accountability in model development

مبدأ أخلاقي المساءلة عبر دورة الحياة لضمان ذكاء اصطناعي عادل ومسؤول وآمن.

الشاملية للأفراد

Inclusivity for Individuals

مبدأ أخلاقي الشاملية للأفراد في عصر الذكاء الاصطناعي.

الحوكمة المسؤولة للمستخدمين

Responsible Governance for Users

مبدأ أخلاقي الحوكمة المسؤولة للمستخدمين لضمان عدالة ومسؤولية الذكاء الاصطناعي.

الأثر المجتمعي في الاستخدام

Societal Impact in Use

مبدأ أخلاقي الأثر المجتمعي في الاستخدام لضمان عدالة ومسؤولية الذكاء الاصطناعي.

التقييم الأخلاقي للأفراد

Moral Assessment for Individuals

مبدأ أخلاقي التقييم الأخلاقي للأفراد في عصر الذكاء الاصطناعي.