معجم الذكاء الاصطناعي

الحوسبة السرية للذكاء الاصطناعي

Confidential AI Computing

حوسبة سرية للذكاء الاصطناعي.

التشفير المتماثل للتعلم الآلي

Homomorphic Encryption ML

تشفير متماثل للتعلم الآلي.

الحساب المتعدد الأطراف الآمن

Secure MPC

حساب متعدد الأطراف الآمن.

التعلم الآلي المراعي للخصوصية

Privacy-Preserving ML

تعلم آلي مع الحفاظ على الخصوصية.

إثباتات بدون معرفة للتعلم الآلي

Zero-Knowledge ML

أدلة صفر معرفة للتعلم الآلي.

إخفاء الهوية المتقدم

Advanced Anonymization

تقنيات إخفاء الهوية المتقدمة.

إدارة ميزانية الخصوصية

Privacy Budget Management

إدارة ميزانية الخصوصية المحددة.

المحاذاة بالخطأ

Alignment Tax

التضحية بالأداء العام لتحسين سلوك النموذج والامتثال للقواعد الأخلاقية.

المحاذاة الدلالية

Semantic Alignment

ضمان تطابق فهم النموذج للمفاهيم مع المعاني المقصودة بشريًا.

تسريب المعرفة

Knowledge Leakage

تسريب معلومات حساسة من النموذج عبر استجاباته أو سلوكيته.

التشفير التشابهي

FHE for ML

تشفير يتيح المعالجة على البيانات المشفرة دون فك التشفير أولاً.

محاذاة القيم

Value Alignment

ضبط سلوك النظام بحيث يتسق مع القيم والمعايير الأخلاقية المقصودة، فيتجنب النتائج الضارة حتى لو بدت مفيدة ظاهريًا.

مواءمة الأهداف

Goal Alignment

تصميم النموذج بحيث لا تتعارض أهدافه المُستنتَجة مع النية البشرية، فيضعف خطر سعي الوكيل لتحقيق الهدف بأسلوب متطرف أو ملتوٍ.

مراقبة السلوك

Behavioral Monitoring

مراقبة مستمرة لتصرفات النموذج أثناء التشغيل لكشف انحرافها عن النمط المتوقع، والتنبيه إلى أخطاء سلوكية قد تسبق فشلًا أكبر.

التحقق من الهوية

Identity Verification

التحقق من هوية المستخدم عبر بيانات مميزة كالوجه أو البصمة أو كلمة المرور قبل منح الوصول، لمنع انتحال الشخصية أو الاقتحام.

المراجعة البشرية

Human Review

إشراف بشري على المخرجات الحرجة أو الحالات عالية الخطورة للتأكد من صحتها وسلامتها قبل اعتماد القرار النهائي أو نشر النتيجة.

الاستجابة للحوادث

Incident Response

إجراءات منظمة للتعامل مع الحادثة الأمنية أو الخلل: كشفها، احتواؤها، تحليل أسبابها، إصلاحها، ثم توثيق الدروس المستفادة.

العزل الوظيفي

Functional Isolation

عزل وظائف النموذج أو البيانات بعضها عن بعض بحيث لا يؤثر تعطل إحداها على بقية النظام، ويستمر العمل حتى عند انهيار مكوّن واحد.

الوضع الآمن

Safe Mode

وضع تشغيل احتياطي يقيّد قدرات النظام عند اكتشاف خطر، فيتوقف عن القرارات عالية الخطورة ويلجأ إلى تدخل بشري أو إعدادات مضمونة.

الاختبار العدائي

Adversarial Testing

اختبار النموذج بمدخلات عدائية مصممة لخداعه أو كسر ضوابطه، للكشف عن الثغرات السلوكية وتقويتها قبل أن تُستغل في الواقع.

التبادل الآمن

Secure Exchange

تبادل المعلومات بين الأطراف عبر قنوات مشفرة وموثقة تضمن سرية المحتوى وعدم العبث به، فيحافظ التعلم الخاص على خصوصية كل طرف.

الموافقة المسبقة

Informed Consent

إذن صريح مسبق من صاحب البيانات بعلمه الكامل بكيفية استخدامها وأغراضه ومدة الاحتفاظ بها، مع حقه في سحب الموافقة.

إدارة المفاتيح

Key Management

إدارة دورة حياة المفاتيح التشفيرية من توليد وتخزين واستبدال وإتلاف بأمان، وهي ركيزة أي نظام خصوصية وطني.

القناة الآمنة

Secure Channel

قناة اتصال مشفرة وموثقة بين المكونات، تنقل البيانات بحيث لا يستطيع أحد قراءتها أو تغييرها أثناء انتقالها.

تقييد الوصول

Access Restriction

تقييد الوصول إلى البيانات والوظائف وفق صلاحيات الحد الأدنى الضروري، بفحص الهوية والامتيازات عند كل طلب.

سياسة الاحتفاظ

Retention Policy

سياسة تحدد مدة حفظ البيانات وظروف أرشفتها وإتلافها النهائي، لتحقيق توازن بين حاجة العملين والخصوصية والامتثال التنظيمي.

المراجعة المستقلة

Independent Audit

مراجعة مستقلة تجريها جهة خارجية لنظام الذكاء الاصطناعي للتحقق من بياناته وسلوكه وامتثاله للمعايير، وبناء الثقة العامة به.

تصنيف الحساسية

Sensitivity Classification

تصنيف البيانات وفق درجة حساسيتها، فيُخصص لكل فئة ضوابط حماية وإجراءات تحكم تتناسب مع خطورة الكشف.

المحو الآمن

Secure Erasure

محو البيانات نهائيًا بحيث يستحيل استرجاعها، ويُطبق على التخزين والخوادم والنسخ الاحتياطية بما ينسجم مع سياسات الاحتفاظ.

الإخفاء الجزئي

Partial Masking

إخفاء أجزاء من البيانات الحساسة كالأرقام والحقول مع إبقاء الباقي ظاهرًا للاستخدام، فيُحقق الغرض دون كشف التفاصيل الكاملة.

تسرب البيانات

Data Leakage

تسرب معلومات من بيانات التدريب أو الاختبار إلى تقييم النموذج، فيظهر أداؤه أعلى من واقعه الحقيقي ويفسد صحة المقارنة.

الهروب من القيود

Jailbreaking

هجوم يدفع النموذج إلى تجاوز قيوده الأمنية وسياسته بإستراتيجيات محفزات ملتوية، لاستخراج مخرجات ممنوعة أو معلومات حساسة.

الاستخدام المزدوج

Dual Use

طبيعة التكنولوجيا أو البيانات التي يصلح استخدامها لأغراض نافعة أو ضارة، كالمعرفة الطبية التي تجار بالسموم، فرضها المطورون بتصميم مسؤول.

التحكم في الصلاحيات

Permission Control

تصميم نظام يقيّد صلاحيات المستخدمين والوكلاء لأدنى أدوائهم المطلوبة، بفحص الإذن عند كل إجراء ولمنع فائض الامتياز.

حواجز الأمان

Guardrails

قيود أو ضوابط أمان مرونة تمنع النموذج من السلوك خارج حدود السلوك المقبول، كتجويل المخرجات الخارجة عن السياسة أو التهديد الآمن.

الفلترة الدلالية

Semantic Filtering

تصفية المحتوى وفق معنى ودلالة المعلومات لا ألفاظها فقط، فيرشح النظام المخرجات التي تحمل مضامين مخالفة حتى لو بسعادة صيغة مقبولة.

التدقيق الأمني

Security Auditing

تدقيق منهجي للأمان في النظام بنبذ الثغرات واختبار الدفاعات وإجراء مراجعات في الممارسات، لتحديد الفجوات قبل استغلالها.

الاستجابة الآمنة

Safe Completion

إتمام الجملة أو المخرجات بأسلوب آمن عندما يكون الطلب بذر الخطورة، فيرد النموذج برفض وطأة ملطف أو توجيه مفيد بدل إكمال الهجوم.

التعلم المشفر

Encrypted Learning

تعلم جماعي يعمل على بيانات مشفرة أو موزعة مع تشفير جزئي للحسابات، فيبلغ التحديث النتيجة دون كشف الأرقام الأصلية.

الحوسبة متعددة الأطراف

Secure Multi-Party Computation

عملية حوسبة جماعية يحسب فيها عدة أطراف دالة خاصة على بياناتهم معًا دون كشف أي طرف لمدخلاته للآخرين، بواسطة بروتوكولات الترميز والمشاركة.