تمكن باحثون في الأمن السيبراني من استغلال ثغرة في بيئة تابعة لشركة OpenAI، والوصول إلى حسابات مرتبطة بموظفين في الشركة، مستعينين بأداة الذكاء الاصطناعي «Claude» التابعة لشركة Anthropic، في واقعة تكشف تنامي قدرة أدوات الذكاء الاصطناعي على تسريع تنفيذ هجمات إلكترونية معقدة.

ووفق بحث أجرته شركة الأمن السيبراني الناشئة Hacktron AI، بدأ الباحثون العملية باستخدام «Claude» للمساعدة في إنتاج الأكواد اللازمة لتنفيذ مراحل من الهجوم، قبل الوصول إلى بيئة مرتبطة بخدمات OpenAI. وحصلت الشركة لاحقاً على مكافأة قدرها 6500 دولار من OpenAI بعد إبلاغها بالثغرة ضمن برنامج مكافآت اكتشاف الأخطاء الأمنية.

ثغرة في منتدى داخلي

بدأت العملية باستغلال ثغرة مرتبطة بمنتدى داخلي لموظفي OpenAI مستضاف على منصة Discourse، ما أتاح للباحثين الوصول إلى حسابات ChatGPT مرتبطة بعدد من موظفي الشركة.

وبمساعدة «Claude»، تمكن الفريق من تطوير الأكواد اللازمة لتنفيذ مراحل من العملية، ثم اختبار الوصول إلى خدمة تابعة لـOpenAI من خلال مستودع على منصة GitHub باستخدام آلية «Pull Request»، التي تتيح اقتراح تعديلات على الملفات البرمجية.

وأكدت Hacktron أن الاختبار جرى ضمن برنامج OpenAI المخصص للباحثين الأمنيين، وأنها أبلغت الشركة بالثغرة بعد إثبات إمكانية استغلالها.

وأوضح الباحثون أنهم تمكنوا من الوصول إلى الكود الموجود في المستودع، لكنهم لم يقوموا بتنزيله أو نسخ بيانات حساسة، واستخدموا التعديل البرمجي دليلاً على نجاح الوصول إلى البيئة الداخلية.

نطاق وصول واسع

وأشارت Hacktron إلى أن نطاق الوصول المحتمل عبر الثغرة كان واسعاً، خصوصاً مع إمكانية ارتباط حسابات ChatGPT وCodex بخدمات وأدوات أخرى تستخدمها المؤسسات.

وأظهرت العملية، التي نُفذت خلال فترة قصيرة، كيف يمكن للذكاء الاصطناعي تقليص الوقت والخبرة اللازمين لتحويل ثغرات تقنية إلى هجمات قابلة للتنفيذ.

وبحسب الشركة، فإن مهام كانت تتطلب سابقاً فريقاً متخصصاً وموارد كبيرة وأشهرًا من العمل، بات من الممكن إنجازها خلال أيام بمساعدة أدوات الذكاء الاصطناعي.

وحصلت Hacktron على 6500 دولار من OpenAI مقابل اكتشاف الثغرة والإبلاغ عنها.

عالجنا الثغرات: OpenAI

من جانبها، شكرت OpenAI الباحثين على إبلاغها بالثغرات ومشاركة نتائج الاختبار، مؤكدة اتخاذ الإجراءات اللازمة لمعالجة نقاط الضعف التي استُغلت خلال العملية.

وتأتي الواقعة وسط تزايد النقاش حول استخدام الذكاء الاصطناعي في تنفيذ هجمات إلكترونية أكثر تعقيداً، مع تطور قدرات النماذج في كتابة الأكواد وتحليل الأنظمة وأتمتة مراحل متعددة من العمليات التقنية.

جدل حول سرعة تطوير الذكاء الاصطناعي

وتزامنت الواقعة مع تصاعد النقاش داخل قطاع التكنولوجيا حول سرعة تطور أنظمة الذكاء الاصطناعي المتقدمة.

وكان الرئيس التنفيذي لشركة Anthropic، داريو أمودي، قد دعا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم، مع تعزيز إجراءات السلامة والتقييم المستقل. وحظيت دعوته بتأييد الرئيس التنفيذي لـOpenAI سام ألتمان، والرئيس التنفيذي لـGoogle DeepMind ديميس هاسابيس، وإيلون ماسك.

في المقابل، يبرز خلاف داخل قطاع التكنولوجيا بشأن كيفية التعامل مع هذه المخاطر؛ إذ يرى مؤيدو تشديد إجراءات السلامة ضرورة مواكبة التطور بإجراءات رقابية وتقييمات مستقلة، بينما يحذر منتقدون من أن القيود قد تؤثر في الابتكار والمنافسة.

ترمب: لا نريد التخلي عن الصدارة

وفي السياق نفسه، رفض الرئيس الأمريكي دونالد ترمب الدعوات إلى إبطاء تطوير الذكاء الاصطناعي، مؤكداً خلال وجوده في أيرلندا ضرورة حفاظ الولايات المتحدة على ريادتها في هذا المجال، في ظل المنافسة مع الصين.

وقال ترمب إن الولايات المتحدة «تقود الصين في الذكاء الاصطناعي»، وإنه يريد الحفاظ على ذلك، مشيراً في الوقت نفسه إلى إمكانية وضع ضوابط، لكنه وصف بعض التحذيرات بشأن مستقبل الذكاء الاصطناعي بأنها مبالغ فيها.