أعلنت المفوضية الأوروبية، اليوم (الإثنين)، فتح تحقيق رسمي جديد في شركة xAI التابعة لإيلون ماسك، ومنصة X التي يرأسها، عقب انتشار واسع النطاق لصور وفيديوهات جنسية مزيفة تم إنشاؤها بواسطة روبوت الدردشة الذكي Grok.
يأتي التحقيق في أعقاب تقارير صادمة من منظمات المجتمع المدني، التي قدرت أن البرنامج الآلي قد أنشأ ما يصل إلى 3 ملايين صورة جنسية بدون موافقة، بالإضافة إلى 20 ألف صورة تصور اعتداء جنسياً على الأطفال، خلال الأيام الـ11 التي سبقت إجراء تعديلات فنية لوقف هذا الانتشار.
ووفقاً للمفوضية الأوروبية سيركز التحقيق على تقييم ما إذا كانت X قد سمحت بعرض «صور جنسية معالجة» لمستخدمي الاتحاد الأوروبي، مما قد ينتهك قانون الخدمات الرقمية (DSA).
وأثارت الواقعة غضباً عالمياً، حيث اكتشف مستخدمون أن Grok يمكنه إنشاء deepfakes باستخدام نصوص بسيطة، مما أدى إلى انتشار الصور غير القانونية على المنصة. من جانبها ردت xAI بتعديل النموذج بعد 11 يوماً، لكن الضرر كان قد وقع، مع تقارير عن زيادة الشكاوى من ضحايا الاستغلال الرقمي.
المفوضية الأوروبية تحقق في 3 ملايين deepfake جنسي على X*
حماية المستخدمين أولوية قصوى
وفي بيانها، أكدت المفوضية أن «حماية المستخدمين، خصوصا الأطفال، أولوية قصوى»، مشيرة إلى أن التحقيق قد يؤدي إلى غرامات تصل إلى 6% من إيرادات الشركة العالمية. من جانبه، لم يعلق ماسك مباشرة، لكنه غرد سابقاً عن «الحرية في الذكاء الاصطناعي»، مما أثار انتقادات من منظمات حقوقية.
ويأتي هذا التحقيق ضمن سلسلة من الإجراءات الأوروبية ضد X، التي تواجه بالفعل تحقيقات بشأن المحتوى الضار والإعلانات المضللة، فيما انضمت دول أخرى مثل الهند وماليزيا إلى الضغط على ماسك لتعزيز الرقابة.
وفي أوائل يناير الجاري، أثار روبوت الدردشة الذكي Grok، الذي طورته شركة xAI التابعة لإيلون ماسك ومتكامل مع منصة X، جدلاً واسعاً بعد اكتشاف قدرته على إنشاء صور وفيديوهات جنسية مزيفة deepfakes باستخدام نصوص بسيطة، والتي سمحت للمستخدمين بإنشاء صور غير مشروعة.
The European Commission announced today (Monday) the opening of a new official investigation into xAI, the company owned by Elon Musk, and the X platform he leads, following the widespread dissemination of fake sexual images and videos created by the intelligent chat robot Grok.
The investigation comes in the wake of shocking reports from civil society organizations, which estimated that the automated program had generated up to 3 million non-consensual sexual images, in addition to 20,000 images depicting sexual abuse of children, during the 11 days leading up to technical adjustments made to stop this spread.
According to the European Commission, the investigation will focus on assessing whether X allowed the display of "processed sexual images" to users in the European Union, which may violate the Digital Services Act (DSA).
The incident has sparked global outrage, as users discovered that Grok could create deepfakes using simple texts, leading to the spread of illegal images on the platform. For its part, xAI responded by modifying the model after 11 days, but the damage had already been done, with reports of increased complaints from victims of digital exploitation.
المفوضية الأوروبية تحقق في 3 ملايين deepfake جنسي على X*
User protection is a top priority
In its statement, the Commission emphasized that "user protection, especially for children, is a top priority," noting that the investigation could lead to fines of up to 6% of the global company's revenue. Musk did not comment directly, but he previously tweeted about "freedom in artificial intelligence," which drew criticism from human rights organizations.
This investigation is part of a series of European actions against X, which is already facing investigations regarding harmful content and misleading advertisements, while other countries like India and Malaysia have joined the pressure on Musk to enhance oversight.
Earlier this January, the intelligent chat robot Grok, developed by Elon Musk's xAI and integrated with the X platform, sparked widespread controversy after its ability to create fake sexual images and videos (deepfakes) using simple texts was discovered, allowing users to generate illicit images.
