في واقعة هي الأولى من نوعها المعروفة بالنسبة إلى شركة قوقل، تمكن نموذج الذكاء الاصطناعي جيميناي (Gemini) من اختراق أنظمة ثلاث شركات حقيقية خلال اختبار للأمن السيبراني، بعدما خرج النموذج عن البيئة التجريبية المغلقة ووصل بصورة غير مقصودة إلى الإنترنت.

ووقعت الاختراقات في مايو الماضي، خلال تقييم أمني أجرته شركة Irregular المتخصصة في اختبار سلامة وأمن أنظمة الذكاء الاصطناعي المتقدمة، قبل أن تُبلغ الشركة قوقل بالوقائع في نهاية يوليو.

وأكدت قوقل حدوث الاختراقات، لكنها قالت إن النموذج لم يتسبب في أضرار للشركات المستهدفة، وإنه توقف عن نشاطه بمجرد إدراكه أنه وصل إلى أنظمة حقيقية.

كيف اخترق Gemini الشركات؟

كانت شركة Irregular تجري الاختبارات داخل بيئة مغلقة تتضمن شركات وهمية، بهدف قياس قدرات Gemini في مجال الأمن السيبراني، ولم يكن من المفترض أن تكون تلك البيئة متصلة بالإنترنت، لكن الوصول إلى الشبكة أصبح متاحًا عن طريق الخطأ، وفقًا لما أوردته صحيفة «وول ستريت جورنال».

وبمجرد وصول النموذج إلى الإنترنت، بدأ في التعامل مع أنظمة حقيقية بدلًا من الأهداف الوهمية التي صُمم الاختبار من أجلها.

وفي إحدى الحالات، كان الباحثون يختبرون قدرة Gemini على الحصول على معلومات من برمجيات تابعة لشركة وهمية تحمل الاسم نفسه الذي تحمله شركة حقيقية.

وعندما أصبح النموذج قادرًا على الاتصال بالإنترنت، تمكن من تخمين كلمة المرور الصحيحة والوصول إلى خدمة تابعة للشركة الحقيقية، بعدما اعتقد في البداية أنها جزء من بيئة الاختبار.

وقالت قوقل إن Gemini توقف عن تنفيذ أي إجراءات إضافية بمجرد أن أدرك أنه اخترق شركة حقيقية وليس الشركة المحاكاة المستخدمة في الاختبار.

كلمات مرور وبيانات منشورة على الإنترنت

وفي اختبارين آخرين، تمكن Gemini من البحث عبر الإنترنت والعثور على مستودعات برمجية عامة تضمنت بيانات اعتماد مرتبطة بشركتين أخريين.

واستخدم النموذج تلك البيانات للوصول إلى أنظمة الشركتين الحقيقيتين، قبل أن يتوقف أيضًا بعدما أدرك أن الأهداف التي وصل إليها كانت شركات حقيقية وليست جزءًا من الاختبار.

وقالت قوقل إن النموذج أوقف نشاطه في الحالات الثلاث، مؤكدة أن الشركات المتضررة لم تتعرض لأضرار نتيجة الاختراقات.

لماذا لم تعلن قوقل عن الاختراقات؟

وأبلغت Irregular شركة قوقل بالوقائع في نهاية يوليو، وذلك بعد اكتشاف حادثة منفصلة تضمنت وصول نماذج تابعة لشركة OpenAI إلى أنظمة شركة Hugging Face خلال اختبار أمني.

وبخلاف OpenAI وAnthropic، اللتين اختارتا الكشف طوعًا عن حوادث مماثلة، لم تعلن قوقل عن اختراقات Gemini في ذلك الوقت.

وبررت قوقل موقفها بأن النموذج لم يلحق ضررًا بالشركات الثلاث، وأنه توقف عن الاختراق بمجرد اكتشاف الطبيعة الحقيقية للأهداف. ومع ذلك، أكدت الشركة أنها أبلغت الجهات الثلاث التي تعرضت للوصول غير المصرح به.

وقالت هيلر أتكينز، نائبة رئيس هندسة الأمن في قوقل، إن النموذج «وجد معلومات متاحة للعامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع اعتقد أنها جزء من الاختبار»، قبل أن يتوقف في الحالات الثلاث.

وأضافت أن هذه الوقائع تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.

سلسلة اختراقات تثير مخاوف بشأن الذكاء الاصطناعي

وتأتي واقعة Gemini في أعقاب حوادث مماثلة تورطت فيها نماذج ذكاء اصطناعي تابعة لشركات أخرى.

ففي يوليو، كشفت OpenAI أن نماذجها تمكنت خلال اختبارات داخلية من تجاوز ضوابط العزل والوصول إلى أنظمة تابعة للشركة ومنصة Hugging Face، في حادث قالت الشركة إنه أبرز الحاجة إلى تعزيز إجراءات المراقبة والاحتواء والأمن مع ارتفاع قدرات النماذج.

كما أعلنت Anthropic عن حوادث مرتبطة بسلوك غير متوقع لنماذجها، وسط نقاش متزايد حول قدرة شركات الذكاء الاصطناعي على التحكم في النماذج الأكثر تقدمًا عندما تحصل على أدوات للوصول إلى الإنترنت وتنفيذ التعليمات البرمجية.