لماذا تتزايد الدعوات إلى إبطاء الذكاء الاصطناعي؟ وهل توجد دول أو شركات أو أفراد في مأمن من خطورته؟ ولماذا بدأت تأتي التحذيرات والدعوات لإبطاء الذكاء الاصطناعي ووتيرة تطوير النماذج الأكثر تقدّماً من بعض الذين يصنعونها ويقودون أكبر مختبراتها، ولم تأتِ من أعداء التقنية وخصومها؟
أطرح هذه الأسئلة بعد أن دعا الرئيس التنفيذي لـ«Anthropic» إلى إدخال مقيمين مستقلين إلى شركات الذكاء الاصطناعي وتعزيز التنسيق بين الشركات والدول، وحظيت دعوته بتأييد من قيادات أخرى في صناعة الذكاء الاصطناعي، وعارضتها أصوات سياسية وتقنية تخشى أن يتحوّل الإبطاء إلى خسارة في السباق التكنولوجي والتكنوسياسي. هذا الانقسام نفسه يكشف جوهر المشكلة.
هناك خشيةٌ من التقدّم بسرعة، مما يتسبّب في المخاطر، كما أن هناك خشيةً من التأخر عن المنافسة بين شركات التقنية والدول التي تراهن على الذكاء الاصطناعي للتفوق والهيمنة في ظل التنافس المحموم الذي يشهده العالم.
لقد باتت قدرات الذكاء الاصطناعي تتقدّم أسرع بكثير من تقدّم التشريعات والاختبارات ومعايير السلامة والتفاهمات الدولية. فهل -يا ترى- أن الهدف من دعوات الإبطاء هو شراء الوقت ووضع قواعد دولية قبل أن يدخل الذكاء الاصطناعي سباق تسلح معرفي وتقني لا يستطيع أحد الانسحاب منه بمفرده؟
في سباق عالمي بهذا الحجم، تختلط دوافع السلامة بدوافع المنافسة، والاقتصاد بالأمن القومي، والتنظيم بمحاولة حماية المواقع السوقية. نحن لسنا أمام كارثة وقعت، كما تقول بعض المصادر المفتوحة، لكننا أمام احتمال شديد الأثر، مجهول الاحتمال والتوقيت. وهنا بالتحديد مكمن الخطر والصعوبة. فقد تكون الخشية فيما نتنازل عنه نحن بإرادتنا واختيارنا من قراراتنا للذكاء الاصطناعي، بجانب اعتماد توصيات أو تحليلات أو توقعات دون قدرة بشرية على فهم ومراجعة ومساءلة وتحقق، أي الاعتماد المفرط دون شرط أو قيد على الذكاء الاصطناعي.
إذا خرج نظام ذكاء اصطناعي شديد القدرة عن السيطرة، فمن هم المرشحون للنجاة؟ ومن سيكون في مأمن من الخطر؟ وهل الأقل اتصالاً بالتقنية أكثر أماناً؟ هل الدول المتقدّمة أكثر أماناً أم الدول النامية؟ هل شركات التقنية أكثر أماناً من غيرها، أم أنها المجتمعات الأقل استخداماً للتكنولوجيا؟
الإجابة: للأسف، لا توجد فئة يمكن ضمان نجاتها وأمنها تلقائياً من الخطر، حسب المعطيات! لكن هناك فرق بين التعرّض المباشر والتعرّض غير المباشر.
قد يكون الإنسان الذي لا يعتمد في عمله على الذكاء الاصطناعي أقل تعرّضاً لبعض أخطائه المباشرة. والمؤسسة التي لا تمنح الأنظمة الذكية صلاحية الدخول إلى أموالها أو بنيتها التشغيلية أقل تعرّضاً لفشل مباشر. لكنه أمن نسبي وحماية نسبية جداً؛ لأن الإنسان الذي لا يستخدم الذكاء الاصطناعي يعيش في اقتصاد تستخدمه البنوك ويشتري من شركات تستخدمه كذلك، ويعيش في دولة تستخدم شبكات رقمية، ويتأثر بأسواق مالية تستخدم الخوارزميات، ويستهلك إعلاماً قد ينتج الذكاء الاصطناعي جزءاً منه. ويعتمد على اتصالات وطاقة ونقل وسلاسل توريد عالمية شديدة الترابط. لذلك يمكنك ألا تستخدم الذكاء الاصطناعي، لكن من الصعب أن تعيش وتعمل في عالم لا يستخدمه.
المفارقة العجيبة أن الأكثر تقدّماً قد يكون أكثر تعرّضاً للخطر. والدولة شديدة الرقمنة تمتلك قدرات أكبر على الدفاع، لكنها تمتلك في المقابل مجال هجوم أكبر من غيرها. وكلما زاد الاعتماد على الذكاء الاصطناعي، ارتفعت فوائده، وارتفعت معه كلفة الفشل. كما أن الدول النامية أقل تعرّضاً للخطر، لكنها أقل قدرة على الصمود من ناحية أخرى.
خلاصة القول: الأشخاص والشركات والدول الأقل عرضة لخطر خروج الذكاء الاصطناعي عن السيطرة هم الذين يمتلكون المرونة والاستقلالية والبدائل.
والأشخاص الأكثر أماناً نسبياً هم الذين يستخدمون الذكاء الاصطناعي دون أن يفقدوا قدرتهم على التفكير والعمل واتخاذ القرار دونه. كما أن الشركات الأكثر أماناً هي التي تستطيع العودة إلى التشغيل البشري أو التقليدي عند تعطل النظام، ولا تمنح الذكاء الاصطناعي صلاحيات غير ضرورية.
والدولة الأكثر أماناً ليست الأكثر ذكاءً اصطناعياً بالضرورة، بل الأكثر قدرة على العمل بالذكاء الاصطناعي والعمل دونه عند الضرورة. أي الاحتفاظ دائماً بكادر بشري قادر على إدارة الأنظمة الأساسية إذا فشلت الأنظمة الذكية.
إن أخطر السيناريوهات المستقبلية هو أن يتولى الذكاء الاصطناعي بالنيابة عنا الكتابة، والحساب، والتحليل، والبرمجة، والترجمة، والتخطيط، والتشخيص، والتدريس، والاستشارة، واتخاذ القرار. وهذا يعني فقدان السيطرة، ويستدعي نظام حوكمة المناعة المجتمعية للذكاء الاصطناعي؛ أي التأكد من قدرة الفرد والمؤسسة والدولة على الاستفادة القصوى من الذكاء الاصطناعي دون الارتهان له.
لا بد من التمكين من الاستخدام، والمراجعة، والرفض، والإيقاف، والاستمرار دونه. وأخيراً، يجدر بكل بنك ومؤسسة أن يجيب عن سؤال: ماذا سيحدث إذا اختفت أنظمة الذكاء الاصطناعي التي نعتمد عليها لمدة أسبوع أو شهر؟ الإجابة عن هذا السؤال تكفي لتقدير وتقييم الوضع الاستراتيجي للمؤسسة.