أوردت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) أكثر من 100 تحيز يؤثر في دقة وعدالة أنظمة الذكاء الاصطناعي. واستعرضت الهيئة في النسخة الأولى من «الدليل المرجعي لتحيزات الذكاء الاصطناعي» تعريفات التحيزات ونشأتها وتأثيرها على المجتمع مع أمثلة واقعية واستراتيجيات التخفيف من آثارها.
وقالت سدايا إن هذه التحيزات قد تؤدي إلى تقويض فاعلية أنظمة الذكاء الاصطناعي وتحولها من أداة لتعزيز العدالة والإنصاف إلى وسيلة تفاقم التحيز، مما قد يؤثر في سمعة المؤسسات ويعرضها للمساءلات القانونية أو شكاوى المستهلكين، مؤكدة أن حصر هذه التحيزات وفهم أسبابها ووضع آليات للحد منها يمثّل خطوة أساسية لضمان نجاح مشاريع الذكاء الاصطناعي.
وأشارت سدايا إلى أن تقنيات الذكاء الاصطناعي شهدت توسعاً ملحوظاً في مختلف القطاعات الحيوية والحساسة، مثل العدل والصحة والتعليم، الأمر الذي رافقه تزايد الاهتمام بمعالجة التحيزات التي قد تؤثر في عمليات صنع القرار، نتيجة الطبيعة المعقدة لهذه الأنظمة وتعدد مراحل تطويرها وتداخل أدوار المختصين فيها.
وأشار الدليل الصادر من سدايا إلى أن مصادر التحيز تتنوع بين بيانات تدريب لا تمثّل مختلف الفئات تمثيلاً كافياً، وخوارزميات قد تفضل -دون قصد- خصائص فئات معينة، إضافة إلى افتراضات وتقديرات مسبقة تنعكس في تفسير البيانات، مستشهداً بأدوات التوظيف التي قد تمنح أفضلية لمرشحين من خلفيات تعليمية نخبوية على حساب آخرين مؤهلين من خلفيات أقل حظاً.
The Saudi Data and Artificial Intelligence Authority (SDAIA) reported more than 100 biases that affect the accuracy and fairness of artificial intelligence systems. In the first edition of the "Reference Guide to AI Biases," the authority reviewed definitions of biases, their origins, and their impact on society, along with real-world examples and strategies to mitigate their effects.
SDAIA stated that these biases could undermine the effectiveness of AI systems, transforming them from tools for promoting justice and fairness into means that exacerbate bias, which could affect the reputation of institutions and expose them to legal accountability or consumer complaints. It emphasized that identifying these biases, understanding their causes, and establishing mechanisms to limit them is a fundamental step to ensure the success of AI projects.
SDAIA pointed out that AI technologies have seen significant expansion across various vital and sensitive sectors, such as justice, health, and education, which has been accompanied by an increasing interest in addressing biases that may impact decision-making processes, due to the complex nature of these systems and the multiple stages of their development and the overlapping roles of specialists involved.
The guide issued by SDAIA indicated that sources of bias vary from training data that do not adequately represent different groups, to algorithms that may unintentionally favor the characteristics of certain groups, in addition to assumptions and prior estimates reflected in data interpretation. It cited recruitment tools that may give preference to candidates from elite educational backgrounds at the expense of other qualified individuals from less privileged backgrounds.
