لم يعد النقاش حول الذكاء الاصطناعي يدور فقط حول ما تستطيع الآلات فعله اليوم، بل انتقل إلى سؤال أكثر إثارة للقلق: ماذا يحدث إذا أصبحت الأنظمة قادرة على تحسين نفسها وتطوير أجيالها اللاحقة بسرعة تتجاوز قدرة البشر والمؤسسات على الفهم والمراقبة؟
هذا السؤال وصل الأربعاء إلى طاولة مجلس الأمن الدولي، حيث حذر عدد من أبرز قادة صناعة الذكاء الاصطناعي من أن تسارع قدرات الأنظمة واستقلاليتها يفرض تحديات جديدة على الرقابة البشرية، داعين إلى تعاون دولي ووضع معايير مشتركة للسلامة. وشارك في الجلسة الرئيس التنفيذي لـ(OpenAI) سام ألتمان، والرئيس التنفيذي لـ(Anthropic) داريو أمودي، إلى جانب ممثلين آخرين من القطاع.
سرعة تتجاوز المؤسسات
قدّم ألتمان أمام المجلس صورة مزدوجة للمستقبل؛ فالذكاء الاصطناعي -بحسب طرحه- يمكن أن يفتح أبوابًا واسعة أمام الاكتشاف والإبداع والإنتاجية، لكنه في الوقت نفسه قد يخلق مخاطر إذا أصبحت الأنظمة أكثر قدرة واستقلالية من أن تتمكن المؤسسات من مواكبتها.
وأوضح أن الأنظمة الأكثر تقدمًا قد تتحرك بوتيرة أسرع من المؤسسات، أو تركز قدرًا كبيرًا من القوة في أيدي عدد محدود من الجهات، أو تتخذ قرارات يصعب على البشر فهمها أو التحكم فيها. وتزداد حساسية هذه المسألة مع الاقتراب من أنظمة قادرة على تحسين نفسها وتحسين الإصدارات المستقبلية منها؛ وهي العملية التي تُعرف باسم (التحسين الذاتي التكراري).
ولا يعني ذلك أن أنظمة الذكاء الاصطناعي الحالية تطور نفسها بصورة مستقلة تمامًا عن البشر؛ فالتحذير المطروح يتعلق بالمسار المحتمل لتزايد الأتمتة والقدرات، وبإمكان تسارع عملية تطوير الأنظمة عندما تصبح أجزاء أكبر من عملية بنائها مؤتمتة.
الخوف من فقدان السيطرة
في قلب هذه المخاوف تقف مسألة السيطرة البشرية. فإذا أصبحت الأنظمة أكثر استقلالية، وأسرع في تنفيذ المهام واتخاذ القرارات، فقد تصبح عملية اكتشاف الأخطاء أو التدخل لتصحيح المسار أكثر تعقيدًا.
ألتمان قال إن الخطر يكمن في احتمال أن يصبح التطور سريعًا إلى درجة لا يستطيع معها البشر متابعة ما يحدث أو التدخل عند الضرورة، مؤكدًا -في الوقت نفسه- أن الشركات لا ينبغي أن تقبل المخاطر التقنية لمجرد أن الفوائد الاقتصادية أو العلمية مغرية. كما شدد على ضرورة عدم بناء أنظمة لا تستطيع الجهات المطورة تقديم أدلة قوية على إمكانية إبقائها تحت السيطرة البشرية.
وهنا تظهر مفارقة التكنولوجيا الجديدة: فكلما ازدادت قدرتها على تنفيذ المهام من تلقاء نفسها، ارتفعت فائدتها المحتملة، لكن في المقابل يصبح السؤال عن حدود استقلاليتها أكثر إلحاحًا.
صوت آخر من القطاع
لم يقتصر القلق على (OpenAI). فقد حذر أمودي، الذي يرأس (Anthropic)، أمام مجلس الأمن من أن الذكاء الاصطناعي قد يمثل خطرًا على البشرية إذا أسيء التعامل معه، ودعا إلى تعاون دولي يشمل وضع معايير لاختبار النماذج الجديدة، وآليات للتحقق من سلامتها، واتفاقات تمنع استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية.
وتأتي هذه الدعوات في وقت تتزايد فيه المخاوف بشأن الأنظمة الوكيلة؛ وهي أنظمة لا تكتفي بإنتاج إجابة للمستخدم، وإنما تستطيع تنفيذ سلسلة من الإجراءات والمهام بصورة أكثر استقلالية. وقد زادت حوادث أمنية حديثة من التركيز على ضرورة مراقبة هذه القدرات والإبلاغ عن الحوادث المرتبطة بها ووضع معايير مشتركة لاختبارها.
تحذير أممي متصاعد
وقبل جلسة مجلس الأمن بأسابيع قليلة، كان مفوض الأمم المتحدة السامي لحقوق الإنسان، فولكر تورك، قد حذّر من أن الذكاء الاصطناعي المتقدم يمكن أن يشكل خطرًا وجوديًا على البشرية، داعيًا الدول إلى الاتفاق على «خطوط حمراء» واضحة، وإلى إخضاع الأنظمة المتقدمة لعمليات تحقق مستقلة وتعزيز التعاون الأمني داخل القطاع.
وربط تورك المخاطر كذلك بحقوق الإنسان والعمل والديمقراطية والبيئة، مشيرًا إلى أن أنظمة الذكاء الاصطناعي التي تتمكن من الإفلات من بيئات الاختبار أو تحاول منع إيقافها تمثل مستوى من القوة يستدعي ضوابط أكثر صرامة.
وتكشف هذه التصريحات عن اتساع دائرة النقاش؛ فالمسألة لم تعد محصورة في المختبرات وشركات التقنية، إنما أصبحت مرتبطة بالأمن الدولي وحقوق الإنسان والاقتصاد ومستقبل العمل وطريقة إدارة التكنولوجيا عالميًا.
هينتون.. سؤال السيطرة
ومن خارج مجالس الحكومات والشركات، يواصل عالم الذكاء الاصطناعي جيفري هينتون التحذير من سيناريوهات فقدان السيطرة. وهينتون، الحائز نصف جائزة نوبل في الفيزياء لعام 2024 عن إسهاماته الأساسية في التعلم الآلي باستخدام الشبكات العصبية الاصطناعية، يرى أن السؤال المركزي ليس فقط ما إذا كانت الأنظمة ستصبح أكثر ذكاءً من البشر، وإنما ما إذا كان بالإمكان ضمان بقائها تحت السيطرة عندما تبلغ مستويات عالية جدًا من القدرة.
وفي مقابلات مع مؤسسة نوبل، دعا هينتون إلى زيادة الاستثمار في أبحاث السلامة والسيطرة، ورأى أن الحكومات يمكن أن تلزم الشركات الكبرى بتخصيص جزء أكبر من مواردها الحاسوبية لأبحاث السلامة، مؤكدًا أن المجتمع لا يزال يفتقر إلى إجابة حاسمة عن كيفية ضمان السيطرة على أنظمة فائقة الذكاء مستقبلًا.
لكن هذه الرؤية تبقى ضمن سيناريوهات المخاطر المستقبلية وليست وصفًا لقدرة حالية مؤكدة على أنظمة خرجت بالفعل من السيطرة. لذلك فإن الفارق بين «احتمال الخطر» و«وقوع الخطر» يظل أساسيًا في قراءة هذا الجدل.
الدعوات إلى المكابح
وفي الولايات المتحدة، انتقل الجدل من التحذيرات إلى مقترحات تشريعية أكثر مباشرة؛ ففي 23 سبتمبر 2026، أعلن السيناتور بيرني ساندرز والنائب غريغ كاسار تقديم مشروع قانون يحظر تطوير ونشر ما يسميانه «الذكاء الاصطناعي فائق الذكاء»، ويقترح وقفًا مؤقتًا لتطوير الذكاء الاصطناعي المتقدم إلى حين إنشاء قواعد اتحادية للسلامة والرقابة.
ويتضمّن المقترح إنشاء جهة اتحادية متخصصة لمراقبة الأنظمة المتقدمة واختبار قدراتها الخطرة، إضافة إلى السعي لاتفاقات دولية تحول دون تطوير أنظمة فائقة الذكاء في أماكن مختلفة من العالم. وهذه المقترحات تعكس موقف أصحابها السياسي، ولا تمثل إجماعًا دوليًا أو تقنيًا على الطريقة التي ينبغي أن تُدار بها هذه التكنولوجيا.
وفي المقابل، لا يدعو قادة الصناعة جميعًا إلى إيقاف التطوير بصورة شاملة؛ فخطاب ألتمان أمام مجلس الأمن ركز على إيجاد مسار يسمح بالاستفادة من قدرات الذكاء الاصطناعي مع الحفاظ على السيطرة البشرية والتعاون الدولي، بينما دعا أمودي إلى اتفاقات ومعايير أكثر تحديدًا للسلامة والاختبار.
المستقبل تحت الاختبار
وبين مختبرات الشركات وقاعات الحكومات، يتشكل سؤال يبدو بسيطًا في صياغته، لكنه بالغ التعقيد في الإجابة عنه: كيف يمكن للبشر أن يطوروا أنظمة أكثر ذكاءً واستقلالية، من دون أن تصبح سرعة تطورها أكبر من قدرة المؤسسات على فهمها وتنظيمها؟
حتى الآن، لا توجد إجابة واحدة تحظى بإجماع عالمي، كما لا يوجد دليل يثبت أن سيناريو فقدان السيطرة على الذكاء الاصطناعي أمر حتمي. لكن ما تغير هو مستوى النقاش نفسه؛ فقد انتقلت المخاوف من صفحات الأبحاث ومختبرات الشركات إلى مجلس الأمن الدولي، وأصبحت الدعوات إلى معايير دولية واختبارات مستقلة وضمانات للسلامة جزءًا من الحوار الرسمي حول مستقبل التكنولوجيا.
وفي النهاية، قد لا يكون التحدي الحقيقي هو إيقاف الذكاء الاصطناعي، بقدر ما يتعلق بإبقاء الإنسان داخل دائرة القرار، مهما تسارعت قدرات الآلة. فالتكنولوجيا التي تتقدم بسرعة البرق تحتاج، في المقابل، إلى مؤسسات وقواعد وضمانات تستطيع أن تتحرك بالسرعة نفسها؛ حتى لا يجد العالم نفسه أمام آلة تعرف كيف تتقدم، بينما لا يزال البشر يبحثون عن الطريقة التي يضمنون بها بقاء زمامها في أيديهم.