أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، ليكون مرجعًا موحدًا يساعد الجهات الحكومية والخاصة على تبني التقنيات الذكية بصورة آمنة ومسؤولة، عبر منهجية متكاملة لتحديد المخاطر وتقييمها ومعالجتها ومتابعتها.
ويأتي الإطار استجابة للتوسع المتسارع في استخدام الذكاء الاصطناعي وما يحمله من مخاطر تختلف عن الأنظمة التقليدية، مثل تغيّر أداء النماذج وصعوبة تفسير سلوكها.
ويرتكز الإطار على سبعة مبادئ أساسية تشمل: النزاهة والإنصاف، الخصوصية والأمن، الإنسانية، الموثوقية والسلامة، الشفافية وقابلية التفسير، المساءلة والمسؤولية، والمنافع الاجتماعية والبيئية. كما يصنّف مخاطر الذكاء الاصطناعي في سبعة أنواع رئيسية هي: مخاطر الخصوصية وحماية البيانات، مخاطر الأمن السيبراني، مخاطر النزاهة والإنصاف، مخاطر الموثوقية والسلامة، مخاطر الشفافية وقابلية التفسير، مخاطر المساءلة والمسؤولية، والمخاطر الاجتماعية والبيئية.
وتضمّن الإطار سيناريو تطبيقيًا يوضح كيفية تطبيق منهجية إدارة المخاطر في بيئات العمل الحكومية، بما يساعد الجهات على تقييم مخاطر النماذج ومعالجتها بصورة عملية. ويأتي هذا الإطار ضمن جهود سدايا لترسيخ الاستخدام المسؤول للذكاء الاصطناعي وتمكين الجهات الوطنية من تبنيه، دعمًا لمنظومة الابتكار الرقمي وتحقيق مستهدفات رؤية المملكة 2030.
The Saudi Data and Artificial Intelligence Authority (SDAIA) has launched the National Framework for Artificial Intelligence Risk Management, which serves as a unified reference to assist government and private entities in adopting smart technologies in a safe and responsible manner, through a comprehensive methodology for identifying, assessing, addressing, and monitoring risks.
This framework comes in response to the rapid expansion in the use of artificial intelligence and the unique risks it entails compared to traditional systems, such as changes in model performance and the difficulty in interpreting their behavior.
The framework is based on seven core principles, including: integrity and fairness, privacy and security, humanity, reliability and safety, transparency and interpretability, accountability and responsibility, and social and environmental benefits. It also classifies artificial intelligence risks into seven main types: privacy and data protection risks, cybersecurity risks, integrity and fairness risks, reliability and safety risks, transparency and interpretability risks, accountability and responsibility risks, and social and environmental risks.
The framework includes a practical scenario that illustrates how to apply the risk management methodology in government work environments, helping entities assess and address model risks in a practical manner. This framework is part of SDAIA's efforts to establish responsible use of artificial intelligence and enable national entities to adopt it, supporting the digital innovation ecosystem and achieving the objectives of Saudi Vision 2030.
