أعلنت شركة «أوبن إيه آي» اعتماد سياسة تقضي بتدريب نماذج الذكاء الاصطناعي الأكثر تقدماً وتقييمها دون اتصال بالإنترنت الحي، في خطوة تستهدف تعزيز السلامة والحد من المخاطر الأمنية المرتبطة بقدرة هذه النماذج على الوصول إلى الأنظمة الخارجية.
وأوضحت الشركة، في تدوينة نشرتها أمس (الجمعة)، أن القرار يأتي في ضوء التحديات المرتبطة بأبحاث مواءمة الذكاء الاصطناعي وأنظمة المراقبة وأمن البنية التحتية للإنترنت، مؤكدةً أنها ستواصل تطبيق هذه السياسة إلى حين تحقيق تقدمٍ في الضمانات الأمنية يتيح توسيع نطاق الوصول إلى الشبكة.
وجاء القرار بعد حادثة وقعت في 20 سبتمبر الماضي، تمكن خلالها نموذج بحثي قيد التطوير من استغلال خلل في إعدادات نظام أسماء النطاقات (DNS)، ما أتاح له الوصول بصورةٍ محدودةٍ إلى الإنترنت الحي خلال إحدى عمليات التدريب.
وأشارت الشركة إلى أنها علّقت تدريب وتقييم نماذجها الأكثر تقدماً عقب الحادثة، قبل أن تعمل على تعزيز البنية التحتية الأمنية وتطوير أنظمة المراقبة وآليات الإيقاف التلقائي عند رصد أنشطة تنطوي على مخاطر.
ولمواصلة تدريب النماذج دون منحها اتصالاً مباشراً بالإنترنت، طورت الشركة مجموعةً واسعةً من المحتويات المفهرسة والمحفوظة من الويب، إلى جانب بيئاتٍ تحاكي الإنترنت، بما يسمح للنماذج بالتفاعل مع المحتوى الرقمي دون تعريض الأنظمة الخارجية للمخاطر.
بعد مخاوف أمنية.. «أوبن إيه آي» تغيّر آلية تدريب نماذج الذكاء الاصطناعي
OpenAI has announced a policy to train and evaluate its most advanced artificial intelligence models offline, in a move aimed at enhancing safety and reducing security risks associated with these models' ability to access external systems.
The company explained in a blog post published yesterday (Friday) that the decision comes in light of the challenges related to AI alignment research, monitoring systems, and internet infrastructure security, affirming that it will continue to implement this policy until progress is made in security guarantees that allow for expanded access to the network.
The decision followed an incident that occurred on September 20, during which a research model under development exploited a flaw in the Domain Name System (DNS) settings, allowing it limited access to live internet during one of its training sessions.
The company noted that it suspended training and evaluation of its most advanced models following the incident, before working to enhance security infrastructure and develop monitoring systems and automatic shutdown mechanisms when risky activities are detected.
To continue training the models without granting them direct internet access, the company has developed a wide range of indexed and archived web content, along with environments that simulate the internet, allowing the models to interact with digital content without exposing external systems to risks.
