أعلنت شركة OpenAI حظر عدد من الحسابات المرتبطة بجهات إنفاذ قانون صينية، إضافة إلى شبكات احتيال عاطفي وعمليات تأثير سياسي، بعد رصد إساءة استخدام تقنيتها ChatGPT في أنشطة غير قانونية ومضللة.
وأوضحت الشركة أن بعض الحسابات استخدمت روبوت الدردشة بالتزامن مع أدوات أخرى لتنفيذ جرائم إلكترونية تحت غطاء وكالات مواعدة وهمية ومكاتب محاماة مزيفة، بل وانتحال صفة مسؤولين أمريكيين.
حسابات صينية مستهدفة
وبحسب التقرير، استعانت مجموعة صغيرة من الحسابات يُرجّح أن مصدرها الصين بنماذج OpenAI للحصول على معلومات حول أشخاص داخل الولايات المتحدة، ومنتديات إلكترونية، ومواقع مبانٍ فيدرالية، إضافة إلى طلب إرشادات بشأن برامج تبديل الوجوه (Face-swapping).
كما صاغت هذه الحسابات رسائل بريد إلكتروني باللغة الإنجليزية موجهة لمسؤولين ومستشارين، لدعوتهم إلى المشاركة في استشارات مدفوعة الأجر.
تشويه رئيسة وزراء اليابان
وأكدت OpenAI حظر حساب على ChatGPT مرتبط بشخص له صلة بجهات إنفاذ القانون الصينية، بعد تورطه في تنسيق عملية تأثير سرية استهدفت تشويه سمعة رئيسة الوزراء اليابانية ساناي تاكايتشي، أول امرأة تتولى المنصب في اليابان.
كما كشفت الشركة عن شبكة حسابات استهدفت رجالاً في إندونيسيا من خلال احتيال عاطفي، مستخدمة نصوصاً ترويجية وإعلانات لخدمة مواعدة مزيفة لاستدراج المستخدمين، ثم الضغط عليهم مالياً، إضافة إلى انتحال صفة محامين وجهات قانونية أمريكية لاستهداف ضحايا آخرين.
تعزيز الحماية والرصد
وأكدت OpenAI استمرارها في تطوير آليات الرصد والحماية لمنع استغلال تقنياتها في أنشطة إجرامية أو حملات تضليل، مشددة على التزامها بتعزيز الاستخدام الآمن والمسؤول للذكاء الاصطناعي.
OpenAI announced the banning of several accounts linked to Chinese law enforcement agencies, as well as networks involved in romantic fraud and political influence operations, after detecting the misuse of its ChatGPT technology in illegal and misleading activities.
The company clarified that some accounts used the chatbot in conjunction with other tools to carry out cybercrimes under the guise of fake dating agencies and fraudulent law firms, even impersonating U.S. officials.
Targeted Chinese Accounts
According to the report, a small group of accounts likely originating from China utilized OpenAI models to gather information about individuals within the United States, online forums, and federal building locations, in addition to requesting guidance on face-swapping programs.
These accounts also crafted emails in English directed at officials and advisors, inviting them to participate in paid consultations.
Discrediting the Japanese Prime Minister
OpenAI confirmed the banning of a ChatGPT account linked to an individual associated with Chinese law enforcement, after their involvement in coordinating a covert influence operation aimed at discrediting Japanese Prime Minister Sanae Takachi, the first woman to hold the position in Japan.
The company also revealed a network of accounts that targeted men in Indonesia through romantic fraud, using promotional texts and advertisements for a fake dating service to lure users, then financially pressuring them, in addition to impersonating lawyers and U.S. legal entities to target other victims.
Enhancing Protection and Monitoring
OpenAI confirmed its ongoing development of monitoring and protection mechanisms to prevent the exploitation of its technologies in criminal activities or disinformation campaigns, emphasizing its commitment to promoting the safe and responsible use of artificial intelligence.
