معجم الذكاء الاصطناعي

الأمن السيبراني

cybersecurity

ممارسات لحماية الأنظمة والشبكات من الهجمات والاختراقات.

هجمات الخصوصية

data privacy attacks

محاولات استعادة بيانات حساسة من الأوزان أو المخرجات مثل هجمات العضوية.

إعادة بناء البيانات

data reconstruction

تقنية تحاول استعادة بيانات التدريب الأصلية من مخرجات النموذج.

التمييز

discrimination

تفريق بهدف فصل الأشخاص لتحديد الاستحقاقات أو الحقوق أو الأهلية.

تكافؤ الأرجحية

equality of odds

(الأرجحية المتساوية). نقول إن المتنبئ يحقق تكافؤ الأرجحية فيما يتعلق بالسمة المحمية A والنتيجة Y إذا كانت A مستقلة عن التنبؤ مشروطًا بـ Y.

الذكاء الاصطناعي الأخلاقي

ethical ai

تصميم وتطوير ونشر أنظمة تلتزم بالقيم الإنسانية والعدالة والشفافية.

الأخلاقيات بالتصميم

ethics by design

دمج الاعتبارات الأخلاقية في مرحلة تصميم النموذج لا إضافتها لاحقاً.

النظام الخبير

expert system

برنامج يحاكي حكم خبير في مجال عبر قاعدة معرفية وقواعد منطقية.

كشف الاحتيال

fraud detection

مراقبة سلوك مجموعات المستخدمين لتقدير السلوك غير المستحب أو اكتشافه أو تجنبه.

الحوكمة

governance

إجراءات تضمن تقييم احتياجات أصحاب المصلحة وحالاتهم وخياراتهم لتحديد أهداف مؤسسية متوازنة ومتفق عليها، ووضع الاتجاه عبر تحديد الأولويات واتخاذ القرارات، ومراقبة الأداء والامتثال لتلك الاتجاهات والأهداف؛ وقد تتضمن حوكمة الذكاء الاصطناعي سياسات بشأن طبيعة التطبيقات المطوَّرة والمُنشَرَة.

إنصاف المجموعات

group fairness

هدف أن تتلقى المجموعات المحددة بخصائص محمية علاجات أو نتائج متشابهة.

الضرر

harm

نتيجة غير مرغوب فيها تتجاوز تكلفتها حدًّا معيناً؛ فالحدث ضار إذا كانت تكاليفه مرتفعة بما يكفي بالمعنى الإنساني، وتتضمن السلامة تقليل احتمال الأضرار المتوقعة وإمكانية حدوث أضرار غير متوقعة.

الانحياز الضار

harmful bias

انحيازات نظام الذكاء الاصطناعي التي تحدث آثارًا سلبية كالنتائج غير العادلة أو التمييزية؛ وتنشأ أنواع مختلفة من الانحياز الضار بسبب عوامل عدة، من بينها القرارات والإجراءات البشرية أو النظامية عبر دورة حياة الذكاء الاصطناعي، والانحيازات الثقافية والاجتماعية الموجودة سلفًا في بيانات التدريب، والقيود التقنية.

القيم البشرية في الذكاء الاصطناعي

human values for ai

أنظمة الذكاء الاصطناعي ليست محايدة القيم. القيم صفات أو ظروف مثالية في العالم يجدها الناس حسنة. تصميم القيم البشرية في أنظمة الذكاء الاصطناعي يستلزم التفاوض حول قيم وأنظمة معانٍ مختلفة، ويتطلب قرارات بشأن المبادئ الأخلاقية والحوكمة والسياسات والحوافز. يتطلب تصميم الذكاء الاصطناعي المنسجم مع القيم البشرية الوعي بالبعد الاجتماعي.

الانحياز المعرفي البشري

human-cognitive bias

ترتبط الانحيازات المعرفية البشرية بكيفية إدراك فرد أو مجموعة لمعلومات نظام الذكاء الاصطناعي لاتخاذ قرار أو سد معلومات مفقودة، أو بكيفية تفكير البشر في أغراض ووظائف نظام الذكاء الاصطناعي. الانحيازات البشرية حاضرة في كل مكان في عمليات اتخاذ القرار عبر دورة حياة الذكاء الاصطناعي واستخدام النظام، بما في ذلك تصميم الذكاء الاصطناعي وتنفيذه وتشغيله وصيانته.

الإنسان داخل الحلقة

human-in-the-loop

الإنسان داخل الحلقة (HITL) إحدى آليات الحوكمة التي تعالجها الرقابة البشرية. يشير إلى القدرة على التدخل البشري في كل دورة قرار للنظام، وهو ما ليس ممكنًا ولا مرغوبًا في كثير من الحالات.

الإنسان المشرف على الحلقة

human-on-the-loop

الإنسان في الحلقة (HOTL) إحدى آليات الحوكمة التي يتناولها الإشراف البشري؛ إذ يشير إلى قدرة الإنسان على التدخل والإعداد الدوري أثناء تشغيل النظام.

أمن المعلومات

information security

الحفاظ على سرية المعلومات وسلامتها وتوافرها؛ وقد تدخل أيضاً خصائص أخرى مثل المصداقية والمساءلة وعدم الإنكار والموثوقية.

انعكاس النموذج

inversion (model inversion)

يشير انعكاس النموذج إلى نوع من الهجمات على نماذج الذكاء الاصطناعي يُساء فيه استغلال الوصول إلى النموذج لاستنتاج معلومات عن بيانات التدريب؛ إذ يحوّل انعكاس النموذج المسار المعتاد من بيانات التدريب إلى النموذج الآلي التعلم من اتجاه واحد إلى اتجاهين، مما يسمح بتقدير بيانات التدريب من النموذج بدرجات دقة متفاوتة.

الامتياز الأدنى

least privilege

المبدأ القاضي بوجوب تصميم البنية الأمنية بحيث يُمنح كل كيان أدنى موارد النظام وتفويضات يحتاجها لأداء وظيفته.

هجمات خصوصية النموذج

model privacy attacks

هجوم ضد نماذج تعلّم الآلة لاستخراج معلومات حساسة حول النموذج.

إدارة مخاطر النماذج

model risk management

تشمل آليات الحوكمة والضبط مثل إشراف مجلس الإدارة والإدارة العليا، والسياسات والإجراءات، والضوابط والامتثال، وهيكل حوافز وتنظيمي مناسب.

الأخلاق (المعنوي)

moral

فكر وخطاب حول المسائل الأخلاقية؛ الفلسفة الأخلاقية، الأخلاق (OED)؛ المتعلق بمعنى الخير والشر وإنشاء معايير أخلاقية لتعزيز تلك المعاني.

إمكانية الإزاحة المعدومة

no displacement potential

بعض أنظمة الذكاء الاصطناعي تنفذ مهامًا لا يستطيع البشر أداءها بنفس الدقة أو الخصوصية أو الحجم (مثل أنظمة الذكاء الاصطناعي المستخدمة في الأمن السيبراني وكشف التهديدات).

عدم التمييز

nondiscrimination

ممارسة معاملة الأشخاص والشركات والدول وغيرها معاملة متساوية حرصاً على الإنصاف.

الهجمات التسميمية

poisoning attacks

هجمات خصومة يتدخل فيها خصم في نموذج أثناء مرحلة تدريبه، كإدراج بيانات تدريب خبيثة (تسميم البيانات) أو تعديل عملية التدريب نفسها (تسميم النموذج).

التفسير اللاحق (Post-hoc)

post-hoc explanation

تستهدف قابلية التفسير اللاحق النماذج غير القابلة للتفسير بسهولة بالتصميم، عبر اللجوء إلى وسائل متنوعة لتعزيز قابلية تفسيرها، مثل التفسيرات النصية والبصرية والمحلية والتفسير بالمثال والتفسير بالتبسيط وتقنيات تفسير أهمية الميزات. تغطي كل واحدة من هذه التقنيات أحد أكثر الطرق شيوعًا التي يشرح بها البشر النظم:

تنقيب البيانات الحافظ للخصوصية

privacy preserving data mining

امتداد لتقنيات التنقيب التقليدية للعمل مع بيانات مُعدَّلة لإخفاء المعلومات الحساسة.

الخصوصية بالتصميم

privacy-by-design

تضمين تدابير الخصوصية والتقنيات معززة الخصوصية مباشرةً في تصميم تقنيات المعلومات وأنظمتها.

السمة المحمية المميزة

privileged protected attribute

قيمة من السمة المحمية تشير إلى مجموعة كانت تاريخياً في وضع ميزة منهجية.

السمة المحمية

protected attribute

سمة تقسم مجموعة سكانية إلى مجموعات يجب أن تتكافأ نتائجها. من الأمثلة: العرق والنوع (الجندر) والطائفة والدين. السمات المحمية ليست عالمية، بل خاصة بالتطبيق.

الفريق الأحمر

red team

ممارسة يتحدى فيها فريق أحمر أو مجموعة مستقلة جهة ما لتحسين فاعليتها بافتراض دور أو وجهة نظر خصومية؛ تُستخدم غالباً للمساعدة في تحديد ثغرات الأمن المحتملة ومعالجتها.

المسؤولية

responsibility

القدرة على الوفاء بالتزام أو واجب؛ أو صفة الموثوقية والجدارة بالثقة؛ أو حالة المساءلة عن الأفعال؛ أو التبعة عن فعل ما.

السيطرة على المخاطر

risk control

آليات في مراحل التصميم والتنفيذ والتقييم يُؤخذ بها عند تطوير ذكاء اصطناعي مسؤول للمؤسسات، وتشمل مخاطر أمنية (مخاطر الاختراق السيبراني والخصوصية وبرمجيات المصدر المفتوح) ومخاطر اقتصادية (مثل مخاطر إزاحة الوظائف) ومخاطر أداء (مثل مخاطر الأخطاء والانحياز ومخاطر الصندوق الأسود وقابلية التفسير).

الذكاء الاصطناعي المتين

robust ai

نظام ذكاء اصطناعي مرن في البيئات الواقعية، كتطبيق التعرف على الأجسام الصامد أمام تغيرات كبيرة في الإضاءة؛ ويشير المصطلح أيضًا إلى الاستبطان أمام الهجمات الخصومية على مكونات الذكاء الاصطناعي.

متانة الذكاء الاصطناعي

robustness ai

تشمل متانة نظام الذكاء الاصطناعي متانته التقنية (المناسبة في سياق معيّن، مثل مجال التطبيق أو مرحلة دورة الحياة) فضلًا عن متانته من منظور اجتماعي (ضمان أن يراعي نظام الذكاء الاصطناعي جيدًا السياق والبيئة اللذين يعمل فيهما). وهذا أمر حاسم لضمان أنه حتى مع النوايا الحسنة، لا يقع ضرر غير مقصود...

الاستبعاد بالفرز

screen out

تمييز استبعادي يقع حين تمنع إعاقة متقدماً لوظيفة أو موظفاً من تلبية معيار انتقاء (أو تخفض أداءهم فيه)، فيفقد المتقدم أو الموظف فرصة العمل نتيجة لذلك.

الأمان

security

مقاومة الأفعال المتعمدة وغير المصرح بها المراد بها إحداث ضرر أو تلف في نظام.

نظام ذاتي الإصلاح

self-healing system

نظام حاسوبي قادر على إدراك أنه لا يعمل بشكل صحيح ثم إجراء التعديلات اللازمة، دون تدخل بشري، لاستعادة حالته الطبيعية.

الإحصاء

statistics

بيانات رقمية تتعلق بمجموع من الأفراد؛ علم جمع هذه البيانات وتحليلها وتفسيرها.