معجم الذكاء الاصطناعي

سلامة البيانات

Data Safety

ضمان حماية البيانات من الوصول غير المصرح به.

المصادقة

Authentication

التحقق من هوية المستخدمين المتصلين بالنظام.

التشفير

Encryption

تحويل البيانات إلى شكل غير مقروء لحمايتها.

منع الوصول غير المصرح به

Unauthorized Access Prevention

أدوات وتقنيات لمنع الدخول غير المصرح به.

حماية النموذج

Model Security

حماية النماذج من الهجمات والسرقة.

كشف التزوير

Adversarial Detection

اكتشاف الهجمات المضللة على نماذج الذكاء الاصطناعي.

السماح بالوصول

Access Control

تحديد من يمكنه الوصول إلى الموارد.

سجل الأمان

Security Audit Log

سجل يحتوي على جميع أحداث الأمان.

اختبار الاختراق

Penetration Testing

اختبار الأنظمة لاكتشاف الثغرات الأمنية.

الامتثال الأمني

Security Compliance

الالتزام بالمعايير واللوائح الأمنية.

كشف السمية

Toxicity Detection

رصد الكلام التمييزي أو السيئ وخطره في المحتوى.

الإفصاح عن التوليد

Disclosure of AI Content

إخبار المستخدم بأن المحتوى أُنتج آليًا.

انحياز الأتمتة

automation bias

ميل صنّاع القرار لتفضيل توصيات الأنظمة الآلية رغم أخطائها.

الانحياز (أخلاقياً)

bias (ethics/fairness)

التحيّز أو التفضيل لجماعات دون أخرى في جمع البيانات أو تصميم النظام أو تفاعله.

الانحياز التأكيدي

confirmation bias

الميل إلى البحث عن المعلومات وتفسيرها وتفضيلها واسترجاعها بطريقة تؤكد معتقدات الفرد أو فرضياته المسبقة. قد يجمع مطورو تعلّم الآلة البيانات أو يصنفونها دون قصد بطرق تؤثر في النتيجة بما يدعم معتقداتهم القائمة.

العدالة المضاعفة الواقعية

counterfactual fairness

مبدأ أن لا يختلف قرار النموذج لو تغيّر خاصية محمية معطاة ثابتة سياق العمل.

انحياز التغطية

coverage bias

انحياز ناشئ عن إقصاء بعض المجموعات من البيانات المتاحة.

مكافئ الديمغرافي

demographic parity

شرط عدالة أن يكون احتمال التوقع الفئوي مستقلاً عن السمة المحمية.

المعاملة التفاضلية

disparate treatment

معاملة مختلفة عمداً أو يفضي بها القصد لأفراد مجموعات مختلفة.

تكافؤ الفرص

equality of opportunity

شرط عدالة أن تكون معدلات الإيجابية الصحيحة متساوية بين المجموعات.

الاحتمالات المعادلة

equalized odds

شرط عدالة يساوي معدل الأخطاء بين المجموعات ليعادل الرنين.

انحياز المُجرب

experimenter's bias

انظر: انحياز التأكيد.

انحياز الإسناد الجماعي

group attribution bias

افتراض أن ما ينطبق على فرد ينطبق أيضًا على جميع أفراد مجموعته؛ وقد تتفاقم آثار هذا الانحياز إذا استُخدمت عينة ميسّرة في جمع البيانات.

الانحياز التاريخي

historical bias

نوع من الانحياز موجود أصلًا في العالم ودخل إلى مجموعة البيانات. تميل هذه الانحيازات إلى عكس القوالب النمطية الثقافية القائمة وأوجه عدم المساواة الديموغرافية والأحكام المسبقة ضد جماعات اجتماعية معينة.

الإنسان في الحلقة

human in the loop (hitl)

تعبير شائع غير محدد الدلالة بدقة، وقد يشير إلى أحد المعنيين: مشاركة الإنسان في مراحل تطوير النموذج، أو الإشراف البشري على تشغيل النظام وقراراته.

اتفاق المقيمين

inter-rater agreement

قياس لمدى اتفاق المقيمين البشريين عند أداء مهمة ما؛ فإذا اختلفوا فقد يتطلب الأمر تحسين تعليمات المهمة.

انحياز عدم الاستجابة

non-response bias

انظر: الانحياز الانتقائي (selection bias).

انحياز المشاركة

participation bias

مرادف لانحياز عدم الاستجابة؛ انظر انحياز الاختيار.

الخاصية البديلة

proxy (sensitive attributes)

خاصية تُستخدم بديلًا عن خاصية حساسة؛ فمثلًا قد يُستخدم الرمز البريدي للفرد بديلًا عن دخله أو عرقه أو أصل عرقه.

المقيّم

rater

إنسان يقدم ملصقات للأمثلة؛ و«الموسم» اسم آخر للمقيّم.

انحياز المعاينة

sampling bias

انظر: الانحياز الانتقائي (selection bias).

الخاصية الحساسة

sensitive attribute

خاصية إنسانية قد تُمنح اعتبارًا خاصًا لأسباب قانونية أو أخلاقية أو اجتماعية أو شخصية.

عدم الوعي بالخاصية الحساسة

unawareness (to a sensitive attribute)

حالة تكون فيها الخصائص الحساسة حاضرة لكنها غير مدرجة في بيانات التدريب؛ ولأنها غالبًا ما ترتبط بخصائص أخرى من بيانات المرء، فقد يُحدث النموذج المدرب دون وعيٍ بخاصية حساسة أثرًا متفاوتًا بشأنها أو يخالف قيود إنصاف أخرى.

الترميز الساخن الأحادي (One-Hot)

one hot encoding

تقنية تحوّل المتغيرات الفئوية إلى قيم رقمية بصيغة قابلة للتفسير. اعرف المزيد...

التعلم الآلي العدائي

adversarial machine learning

دراسة الهجمات على النماذج والتلاعب بالمُدخلات لخداعها وسبل الدفاع عنها.

الاحتمال

probability

في التعلم العميق يُستخدم لمحاكاة الفطرة البشرية بتمكين الآلة من تفسير ظواهر ليس لديها إطار مرجعي لها.

المُقدِّر غير المتحيز

unbiased estimator

مُقدِّر تكون قيمته المتوقعة مساوية للقيمة الحقيقية للمعامل الذي يقدّره، أي أنه لا يميل إلى المبالغة أو التقليل في التقدير في المتوسط.

تفسيرات الاحتمالية

probability interpretations

لأغراض تعلّم الآلة، يمكن تقسيم جميع صور الحدس البشري إلى فئتين واسعتين: الاحتمالية التكرارية (Frequentist) أو الاحتمالية البايزية (Bayesian).

مبادئ الذكاء الاصطناعي

ai principles

مفاهيم أو قيم أو معتقدات أو معايير شاملة توجه تطوير الذكاء الاصطناعي واختباره ونشره عبر دورة حياته؛ تحدد منظمات دولية مثل OECD خمس قيم مكملة للمسؤولية عن ذكاء اصطناعي جدير بالثقة، وتشمل النمو الشامل والتنمية المستدامة والرفاهية، والقيم الإنسانية والإنصاف، والشفافية.

النفور من الخوارزميات

algorithmic aversion

تقييم متحيّز لخوارزمية يتجلى في سلوكيات ومواقف سلبية تجاه الخوارزمية مقارنةً بعميل بشري.