معجم الذكاء الاصطناعي

اتفاق المقيمين

inter-rater agreement

قياس لمدى اتفاق المقيمين البشريين عند أداء مهمة ما؛ فإذا اختلفوا فقد يتطلب الأمر تحسين تعليمات المهمة.

انحياز عدم الاستجابة

non-response bias

انظر: الانحياز الانتقائي (selection bias).

انحياز المشاركة

participation bias

مرادف لانحياز عدم الاستجابة؛ انظر انحياز الاختيار.

الخاصية البديلة

proxy (sensitive attributes)

خاصية تُستخدم بديلًا عن خاصية حساسة؛ فمثلًا قد يُستخدم الرمز البريدي للفرد بديلًا عن دخله أو عرقه أو أصل عرقه.

المقيّم

rater

إنسان يقدم ملصقات للأمثلة؛ و«الموسم» اسم آخر للمقيّم.

انحياز المعاينة

sampling bias

انظر: الانحياز الانتقائي (selection bias).

الخاصية الحساسة

sensitive attribute

خاصية إنسانية قد تُمنح اعتبارًا خاصًا لأسباب قانونية أو أخلاقية أو اجتماعية أو شخصية.

عدم الوعي بالخاصية الحساسة

unawareness (to a sensitive attribute)

حالة تكون فيها الخصائص الحساسة حاضرة لكنها غير مدرجة في بيانات التدريب؛ ولأنها غالبًا ما ترتبط بخصائص أخرى من بيانات المرء، فقد يُحدث النموذج المدرب دون وعيٍ بخاصية حساسة أثرًا متفاوتًا بشأنها أو يخالف قيود إنصاف أخرى.

الترميز الساخن الأحادي (One-Hot)

one hot encoding

تقنية تحوّل المتغيرات الفئوية إلى قيم رقمية بصيغة قابلة للتفسير. اعرف المزيد...

التعلم الآلي العدائي

adversarial machine learning

دراسة الهجمات على النماذج والتلاعب بالمُدخلات لخداعها وسبل الدفاع عنها.

الاحتمال

probability

في التعلم العميق يُستخدم لمحاكاة الفطرة البشرية بتمكين الآلة من تفسير ظواهر ليس لديها إطار مرجعي لها.

المُقدِّر غير المتحيز

unbiased estimator

مُقدِّر تكون قيمته المتوقعة مساوية للقيمة الحقيقية للمعامل الذي يقدّره، أي أنه لا يميل إلى المبالغة أو التقليل في التقدير في المتوسط.

تفسيرات الاحتمالية

probability interpretations

لأغراض تعلّم الآلة، يمكن تقسيم جميع صور الحدس البشري إلى فئتين واسعتين: الاحتمالية التكرارية (Frequentist) أو الاحتمالية البايزية (Bayesian).

مبادئ الذكاء الاصطناعي

ai principles

مفاهيم أو قيم أو معتقدات أو معايير شاملة توجه تطوير الذكاء الاصطناعي واختباره ونشره عبر دورة حياته؛ تحدد منظمات دولية مثل OECD خمس قيم مكملة للمسؤولية عن ذكاء اصطناعي جدير بالثقة، وتشمل النمو الشامل والتنمية المستدامة والرفاهية، والقيم الإنسانية والإنصاف، والشفافية.

النفور من الخوارزميات

algorithmic aversion

تقييم متحيّز لخوارزمية يتجلى في سلوكيات ومواقف سلبية تجاه الخوارزمية مقارنةً بعميل بشري.

الأمن السيبراني

cybersecurity

ممارسات لحماية الأنظمة والشبكات من الهجمات والاختراقات.

هجمات الخصوصية

data privacy attacks

محاولات استعادة بيانات حساسة من الأوزان أو المخرجات مثل هجمات العضوية.

إعادة بناء البيانات

data reconstruction

تقنية تحاول استعادة بيانات التدريب الأصلية من مخرجات النموذج.

التمييز

discrimination

تفريق بهدف فصل الأشخاص لتحديد الاستحقاقات أو الحقوق أو الأهلية.

تكافؤ الأرجحية

equality of odds

(الأرجحية المتساوية). نقول إن المتنبئ يحقق تكافؤ الأرجحية فيما يتعلق بالسمة المحمية A والنتيجة Y إذا كانت A مستقلة عن التنبؤ مشروطًا بـ Y.

الذكاء الاصطناعي الأخلاقي

ethical ai

تصميم وتطوير ونشر أنظمة تلتزم بالقيم الإنسانية والعدالة والشفافية.

الأخلاقيات بالتصميم

ethics by design

دمج الاعتبارات الأخلاقية في مرحلة تصميم النموذج لا إضافتها لاحقاً.

النظام الخبير

expert system

برنامج يحاكي حكم خبير في مجال عبر قاعدة معرفية وقواعد منطقية.

كشف الاحتيال

fraud detection

مراقبة سلوك مجموعات المستخدمين لتقدير السلوك غير المستحب أو اكتشافه أو تجنبه.

الحوكمة

governance

إجراءات تضمن تقييم احتياجات أصحاب المصلحة وحالاتهم وخياراتهم لتحديد أهداف مؤسسية متوازنة ومتفق عليها، ووضع الاتجاه عبر تحديد الأولويات واتخاذ القرارات، ومراقبة الأداء والامتثال لتلك الاتجاهات والأهداف؛ وقد تتضمن حوكمة الذكاء الاصطناعي سياسات بشأن طبيعة التطبيقات المطوَّرة والمُنشَرَة.

إنصاف المجموعات

group fairness

هدف أن تتلقى المجموعات المحددة بخصائص محمية علاجات أو نتائج متشابهة.

الضرر

harm

نتيجة غير مرغوب فيها تتجاوز تكلفتها حدًّا معيناً؛ فالحدث ضار إذا كانت تكاليفه مرتفعة بما يكفي بالمعنى الإنساني، وتتضمن السلامة تقليل احتمال الأضرار المتوقعة وإمكانية حدوث أضرار غير متوقعة.

الانحياز الضار

harmful bias

انحيازات نظام الذكاء الاصطناعي التي تحدث آثارًا سلبية كالنتائج غير العادلة أو التمييزية؛ وتنشأ أنواع مختلفة من الانحياز الضار بسبب عوامل عدة، من بينها القرارات والإجراءات البشرية أو النظامية عبر دورة حياة الذكاء الاصطناعي، والانحيازات الثقافية والاجتماعية الموجودة سلفًا في بيانات التدريب، والقيود التقنية.

القيم البشرية في الذكاء الاصطناعي

human values for ai

أنظمة الذكاء الاصطناعي ليست محايدة القيم. القيم صفات أو ظروف مثالية في العالم يجدها الناس حسنة. تصميم القيم البشرية في أنظمة الذكاء الاصطناعي يستلزم التفاوض حول قيم وأنظمة معانٍ مختلفة، ويتطلب قرارات بشأن المبادئ الأخلاقية والحوكمة والسياسات والحوافز. يتطلب تصميم الذكاء الاصطناعي المنسجم مع القيم البشرية الوعي بالبعد الاجتماعي.

الانحياز المعرفي البشري

human-cognitive bias

ترتبط الانحيازات المعرفية البشرية بكيفية إدراك فرد أو مجموعة لمعلومات نظام الذكاء الاصطناعي لاتخاذ قرار أو سد معلومات مفقودة، أو بكيفية تفكير البشر في أغراض ووظائف نظام الذكاء الاصطناعي. الانحيازات البشرية حاضرة في كل مكان في عمليات اتخاذ القرار عبر دورة حياة الذكاء الاصطناعي واستخدام النظام، بما في ذلك تصميم الذكاء الاصطناعي وتنفيذه وتشغيله وصيانته.

الإنسان داخل الحلقة

human-in-the-loop

الإنسان داخل الحلقة (HITL) إحدى آليات الحوكمة التي تعالجها الرقابة البشرية. يشير إلى القدرة على التدخل البشري في كل دورة قرار للنظام، وهو ما ليس ممكنًا ولا مرغوبًا في كثير من الحالات.

الإنسان المشرف على الحلقة

human-on-the-loop

الإنسان في الحلقة (HOTL) إحدى آليات الحوكمة التي يتناولها الإشراف البشري؛ إذ يشير إلى قدرة الإنسان على التدخل والإعداد الدوري أثناء تشغيل النظام.

أمن المعلومات

information security

الحفاظ على سرية المعلومات وسلامتها وتوافرها؛ وقد تدخل أيضاً خصائص أخرى مثل المصداقية والمساءلة وعدم الإنكار والموثوقية.

انعكاس النموذج

inversion (model inversion)

يشير انعكاس النموذج إلى نوع من الهجمات على نماذج الذكاء الاصطناعي يُساء فيه استغلال الوصول إلى النموذج لاستنتاج معلومات عن بيانات التدريب؛ إذ يحوّل انعكاس النموذج المسار المعتاد من بيانات التدريب إلى النموذج الآلي التعلم من اتجاه واحد إلى اتجاهين، مما يسمح بتقدير بيانات التدريب من النموذج بدرجات دقة متفاوتة.

الامتياز الأدنى

least privilege

المبدأ القاضي بوجوب تصميم البنية الأمنية بحيث يُمنح كل كيان أدنى موارد النظام وتفويضات يحتاجها لأداء وظيفته.

هجمات خصوصية النموذج

model privacy attacks

هجوم ضد نماذج تعلّم الآلة لاستخراج معلومات حساسة حول النموذج.

إدارة مخاطر النماذج

model risk management

تشمل آليات الحوكمة والضبط مثل إشراف مجلس الإدارة والإدارة العليا، والسياسات والإجراءات، والضوابط والامتثال، وهيكل حوافز وتنظيمي مناسب.

الأخلاق (المعنوي)

moral

فكر وخطاب حول المسائل الأخلاقية؛ الفلسفة الأخلاقية، الأخلاق (OED)؛ المتعلق بمعنى الخير والشر وإنشاء معايير أخلاقية لتعزيز تلك المعاني.

إمكانية الإزاحة المعدومة

no displacement potential

بعض أنظمة الذكاء الاصطناعي تنفذ مهامًا لا يستطيع البشر أداءها بنفس الدقة أو الخصوصية أو الحجم (مثل أنظمة الذكاء الاصطناعي المستخدمة في الأمن السيبراني وكشف التهديدات).

عدم التمييز

nondiscrimination

ممارسة معاملة الأشخاص والشركات والدول وغيرها معاملة متساوية حرصاً على الإنصاف.