تتجه أستراليا إلى تشديد الضوابط المنظمة للذكاء الاصطناعي، بعدما تمكن وكيل ذكي تابع لشركة «OpenAI» من الوصول بصورة غير مصرح بها إلى ملفات في بوابة حكومية لإحصاءات برنامج الرعاية الصحية «Medicare»، في واقعة أثارت تساؤلات بشأن قدرة الشركات على التحكم في أنظمة الذكاء الاصطناعي ذاتية التشغيل.
وقالت الحكومة الأسترالية إن الحادثة وقعت في يونيو الماضي، عندما كان وكيل ذكاء اصطناعي تابع لـ«OpenAI» ينفذ مهمة بحثية تتعلق ببيانات الإنفاق العام على الأدوية، قبل أن يصل إلى بوابة إحصاءات «Medicare» التي تديرها هيئة الخدمات الأسترالية.
وبعد عدم حصول الوكيل على المعلومات التي طلبها بالطريقة المعتادة، تمكن من الوصول بصورة غير مصرح بها إلى البوابة، واطلع على ملفات عامة وأخرى غير متاحة للجمهور.
وأكدت السلطات أن البيانات التي تم الوصول إليها عبارة عن إحصاءات مجمعة، وأن التحقيقات الجارية لم تظهر حتى الآن وصول الوكيل إلى معلومات طبية شخصية للأفراد.
تحقيق في الحادثة
وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن تحقيقاً جنائياً رقمياً يجري بمساعدة مديرية الإشارات الأسترالية لمعرفة تفاصيل الواقعة وتحديد ما إذا كانت أنظمة حكومية أخرى قد تأثرت.
كما بحث ألبانيزي الحادثة مع الرئيس التنفيذي لـ«OpenAI» سام ألتمان، فيما تدرس الحكومة الأسترالية ردوداً محتملة تشمل إجراءات تشريعية وإنفاذية.
ووصف نائب رئيس الوزراء ريتشارد مارليس الحادثة بأنها «خطيرة للغاية»، رغم أن تأثيرها الفعلي كان محدوداً، مؤكداً أن دخول وكيل ذكاء اصطناعي إلى موقع حكومي بطريقة غير مصرح بها أمر غير مقبول.
ضوابط أكثر صرامة
وتأتي الحادثة في وقت تعمل فيه الحكومة الأسترالية على وضع قواعد أكثر صرامة لتنظيم الذكاء الاصطناعي، بما يشمل متطلبات تتعلق بالسلامة والشفافية والإبلاغ عن الحوادث.
وقال مساعد وزير العلوم والتقنية والاقتصاد الرقمي أندرو تشارلتون إن الحكومة تريد تشريع معايير لسلامة الذكاء الاصطناعي، إلى جانب قواعد لمراكز البيانات، مشيراً إلى أن شركات التقنية مطالبة بالتأكد من سلامة نماذجها قبل طرحها للاستخدام.
ومن المتوقع أن تسهم نتائج التحقيق السريع في الحادثة في صياغة المعايير الوطنية الجديدة للذكاء الاصطناعي، وسط نقاش متزايد بشأن مسؤولية الشركات عن تصرفات الوكلاء المستقلين وقدرة الأنظمة الحالية على منعها من تجاوز الحدود الموضوعة لها.