معجم الذكاء الاصطناعي

الضرر

harm

نتيجة غير مرغوب فيها تتجاوز تكلفتها حدًّا معيناً؛ فالحدث ضار إذا كانت تكاليفه مرتفعة بما يكفي بالمعنى الإنساني، وتتضمن السلامة تقليل احتمال الأضرار المتوقعة وإمكانية حدوث أضرار غير متوقعة.

الانحياز الضار

harmful bias

انحيازات نظام الذكاء الاصطناعي التي تحدث آثارًا سلبية كالنتائج غير العادلة أو التمييزية؛ وتنشأ أنواع مختلفة من الانحياز الضار بسبب عوامل عدة، من بينها القرارات والإجراءات البشرية أو النظامية عبر دورة حياة الذكاء الاصطناعي، والانحيازات الثقافية والاجتماعية الموجودة سلفًا في بيانات التدريب، والقيود التقنية.

القيم البشرية في الذكاء الاصطناعي

human values for ai

أنظمة الذكاء الاصطناعي ليست محايدة القيم. القيم صفات أو ظروف مثالية في العالم يجدها الناس حسنة. تصميم القيم البشرية في أنظمة الذكاء الاصطناعي يستلزم التفاوض حول قيم وأنظمة معانٍ مختلفة، ويتطلب قرارات بشأن المبادئ الأخلاقية والحوكمة والسياسات والحوافز. يتطلب تصميم الذكاء الاصطناعي المنسجم مع القيم البشرية الوعي بالبعد الاجتماعي.

الانحياز المعرفي البشري

human-cognitive bias

ترتبط الانحيازات المعرفية البشرية بكيفية إدراك فرد أو مجموعة لمعلومات نظام الذكاء الاصطناعي لاتخاذ قرار أو سد معلومات مفقودة، أو بكيفية تفكير البشر في أغراض ووظائف نظام الذكاء الاصطناعي. الانحيازات البشرية حاضرة في كل مكان في عمليات اتخاذ القرار عبر دورة حياة الذكاء الاصطناعي واستخدام النظام، بما في ذلك تصميم الذكاء الاصطناعي وتنفيذه وتشغيله وصيانته.

الإنسان داخل الحلقة

human-in-the-loop

الإنسان داخل الحلقة (HITL) إحدى آليات الحوكمة التي تعالجها الرقابة البشرية. يشير إلى القدرة على التدخل البشري في كل دورة قرار للنظام، وهو ما ليس ممكنًا ولا مرغوبًا في كثير من الحالات.

الإنسان المشرف على الحلقة

human-on-the-loop

الإنسان في الحلقة (HOTL) إحدى آليات الحوكمة التي يتناولها الإشراف البشري؛ إذ يشير إلى قدرة الإنسان على التدخل والإعداد الدوري أثناء تشغيل النظام.

أمن المعلومات

information security

الحفاظ على سرية المعلومات وسلامتها وتوافرها؛ وقد تدخل أيضاً خصائص أخرى مثل المصداقية والمساءلة وعدم الإنكار والموثوقية.

الخضوع الخارجي/خارجي التحكم

heteronomy/heteronomous

خاصية نظام يعمل تحت قيد التدخل الخارجي أو التحكم أو الرقابة الخارجية.

التفاعل بين الإنسان والحاسوب (HCI)

human-computer interaction (hci)

الأساليب والمناهج لتصميم وبناء واجهات المستخدم والتفاعلات بين البشر وتقنية الحاسوب (أو المعلومات).

العمل المشترك بين الإنسان والآلة

human-machine teaming

دَمج التفاعل البشري مع قدرات الذكاء الآلي.

العمل الجماعي بين الإنسان والآلة

human-machine teaming (hmt)

قدرة البشر وأنظمة الذكاء الاصطناعي على العمل معاً لتنفيذ مهام معقدة ومتطورة في بيئات متنوعة مع تسليم سلس في الاتجاهين بين العضوين البشري والآلي.

التدخل البشري للمشغّل

human-operator-intervention

الحاجة إلى تفاعل بشري في سلوك مؤتمت بالكامل عادةً بسبب ظروف استثنائية مخففة.

قابلية الإحلال العالية

high displacement potential

قابلية إحلال تُنسب إلى أنظمة الذكاء الاصطناعي التي تؤدي مهام تستخدم عمليات ومخرجات محددة بوضوح (مثل مهام فنيي المختبرات الطبية وأخصائيي البصريات والمهندسين الكيميائيين والمحاسبين ومدققي الجودة)؛ ولا يعني ذلك احتمالاً كبيراً للإحلال الفعلي.

محوره الإنسان

human-centric

تصميم أو تطوير يجعل احتياجات الإنسان وحقوقه مدخلات مركزية في التصميم والتطوير واعتبارات مركزية في تقييم أنظمة الذكاء الاصطناعي.

التعلم الآلي بتمكين بشري

human-enabled machine learning

كشف وربط وتعرف على الأنماط يولّدها التنبؤ بناءً على ملاحظة آلية لتشغيل البشر لأنظمة البرمجيات، بالتقاط العمليات الناجحة وغير الناجحة لتمكين قدرة تحليلات تنبؤية مفيدة.

المعاملات الفائقة

hyperparameters

المعاملات المستخدمة إما لتكوين نموذج تعلم آلي (مثل معامل العقوبة C في آلة المتجهات الداعمة ومعدل التعلم لتدريب شبكة عصبية) أو لتحديد الخوارزمية المستخدمة في تقليل دالة الخسارة (مثل نوع دالة التنشيط والمحسِّن في شبكة عصبية ونوع النواة في آلة متجهات داعمة).

أصحاب المصلحة المتأثرون

impacted stakeholders

أصحاب مصلحة قد يتأثرون مباشرة أو بوساطة بنشر نظام أو تطبيق ذكاء اصطناعي دون أن يفاعلوا مع النظام بالضرورة؛ فقد يؤثر النظام في عدة فئات مختلفة من أصحاب المصلحة.

المعالجة أثناء التدريب

in-processing

تقنيات تعدّل الخوارزميات للتخفيف من الانحياز أثناء تدريب النموذج؛ وقد تتضمن عمليات التدريب تغييرات في دالة الهدف (التكلفة) أو فرض قيد تحسين جديد.

خوارزمية المعالجة أثناء التدريب

in-processing algorithm

خوارزمية تخفيف انحياز تُطبَّق على نموذج أثناء تدريبه.

الحادثة

incident

حالة تكون فيها أنظمة الذكاء الاصطناعي قد سببت ضررًا واقعيًا، أو كادت تسببه.

مكوّن إدخال المعلومات

information input component

أحد المكونات الثلاثة للنموذج؛ يسلم هذا المكوّن الافتراضات والبيانات إلى النموذج.

بيانات الإدخال

input data

البيانات المقدمة إلى نظام الذكاء الاصطناعي أو المكتسبة مباشرةً به، والتي ينتج النظام بناءً عليها مخرجًا.

وزن المثال

instance weight

قيمة عددية تضرب مساهمة نقطة بيانات في النموذج.

انتهاك النزاهة

integrity violation

في سياق التعلم الآلي الخبيث، إجبار نظام ذكاء اصطناعي على الأداء السيئ خلافاً لأهدافه المقصودة، منتجاً مخرجات أو تنبؤات تتفق مع هدف المهاجم.

المشاركون من البشر

human subjects

فرد حي يجري عنه باحث (محترفاً كان أم طالباً) بحثاً عبر الحصول على معلومات أو عينات بيولوجية بالتدخل أو التفاعل معه، أو الحصول على معلومات خاصة أو عينات بيولوجية قابلة للتعريف واستخدامها ودراستها وتحليلها وتوليدها.

استرجاع المعلومات

information retrieval

مهمة استرجاع مستندات ذات صلة أو أجزاء من مستندات من مجموعة بيانات، عادةً بناءً على كلمات مفتاحية أو استعلامات باللغة الطبيعية.

تكامل الإنسان مع النظام

human system integration (hsi)

أساليب ونهج لاختبار وتحسين جميع الاعتبارات المتعلقة بالإنسان على المستوى «النظامي الكلي» أو «نظام الأنظمة».

اختبار الفرضيات

hypothesis testing

مصطلح يُستخدم عمومًا للإشارة إلى اختبار الدلالة عند النظر في بدائل محددة للفرضية العدمية.

انتحال الشخصية

impersonation

قدرة فرد خبيث على التظاهر بأنه صاحب بيانات شرعي أمام المتحكم في البيانات، عبر تزوير طلب وصول صالح واجتياز تحقق الهوية الذي يفرضه المتحكم، الذي يرسل له بعدها بيانات صاحب بيانات شرعي.

الهجوم من الداخل

insider attack

قد يتمتع من هم داخل المؤسسة بوصول مصرح به إلى كميات هائلة من سجلات الشركة الحساسة الضرورية للحفاظ على التنافسية والموقع السوقي، ومعرفة بخدمات المعلومات والإجراءات الحاسمة للعمليات اليومية. وإذا اختار فرد التصرف ضد المؤسسة، فبامتيازاته الواسعة في الوصول...

بمساعدة بشرية

human-assisted

نوع من التفاعل بين الإنسان والروبوت يشير إلى المواقف التي تكون فيها التفاعلات البشرية مطلوبة على مستوى تفاصيل خطط المهام، أي أثناء تنفيذ المهمة.

الذكاء الاصطناعي المتمحور حول الإنسان

human-centric ai

يسعى النهج المتمحور حول الإنسان في الذكاء الاصطناعي إلى ضمان أن تكون القيم الإنسانية محورية في طريقة تطوير أنظمة الذكاء الاصطناعي ونشرها واستخدامها ومراقبتها، عبر ضمان احترام الحقوق الأساسية.

الإنسان في القيادة

human-in-command

الإنسان في القيادة إحدى آليات الحوكمة التي يتناولها الإشراف البشري؛ ويشير إلى القدرة على الإشراف على نشاط نظام الذكاء الاصطناعي كاملًا (بما فيه أثره الاقتصادي والاجتماعي والقانوني والأخلاقي الأوسع) والقدرة على البتّ متى وكيف يُستخدم النظام في أي حالة معينة، بما في ذلك قرار عدم استخدامه في موقف بعينه.

الفرضية

hypothesis

تفسير مبدئي لظاهرة مُلاحَظة.

أتمتة العمليات الذكية

intelligent process automation

مثيل برمجي مُهيأ مسبقًا يجمع قواعد الأعمال ومنطق تحديد السياق القائم على الخبرة ومعايير القرار لبدء وتنفيذ عمليات بشرية ومؤتمتة متعددة مترابطة في سياق ديناميكي. الهدف إكمال تنفيذ مجموعة من العمليات والأنشطة والمهام في نظام برمجي واحد أو أكثر غير مترابط لتحقيق نتيجة أو خدمة...

التجريب الحاسوبي (In Silico)

in silico

تنفيذ تجربة ما عن طريق محاكاة حاسوبية.

البيانات الفردية القابلة للتحديد

individually identifiable data

معلومات يمكن ربطها بشخص واحد بعينه.

المعلومات

information

عبارات تحمل معنى.

الذكاء

intelligence

ملكة الفهم؛ العقل. وتُستخدم أيضًا بصفتها اسم جنس لوصف مظاهر عقلية لهذه الملكة، أي القدرة الإدراكية على الحساب والفهم والاستدلال.

المدخل

input

بيانات ترد من مصدر خارجي.