دليل المراجعة · GKU 8

دليل مراجعة الأخلاقيات والخصوصية والأمن (الذكاء الاصطناعي)

نظام الذكاء الاصطناعي برمجيات تتخذ قرارات عن الناس أو تؤثر فيها انطلاقاً من بيانات عن الناس، فهو يرث كل مشكلات الأخلاق والأمن في البرمجيات العادية ويضيف مشكلاته الخاصة. يتناول النصف الأول من هذه الوحدة المتأثرين: ما القضايا الأخلاقية وقضايا الخصوصية التي يثيرها الذكاء الاصطناعي، وكيف تؤطرها مبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن سدايا ونظام حماية البيانات الشخصية في المملكة العربية السعودية؛ وكيف تُحمى الخصوصية بالتصميم، بإخفاء الهوية وإخفاء الهوية من الرتبة k والخصوصية التفاضلية؛ وكيف يُقاس الظلم ويُخفَّف، بمقاييس جماعية يمكن حسابها من جدول، وكيف تدعم قابليةُ التفسير الثقةَ. والنصف الثاني عن الأمن: السرية والسلامة والتوافر؛ والمخاطر والتهديدات والثغرات ونواقل الهجوم؛ والمصادقة والتخويل والتحكم في الوصول؛ وما الذي يجعل نظام الذكاء الاصطناعي جديراً بالثقة؛ وكيف تُمنع الهجمات الخاصة بالتعلم الآلي — التسميم والأمثلة العدائية واستخراج النموذج. وأسئلة الامتحان هنا في معظمها سيناريوهات: سمِّ الخاصية أو التهديد أو الضابطة.