بعد تحول منصة «إكس» وروبوت الذكاء الاصطناعي «غروك» إلى مركز أزمة عالمية إثر موجة من الفضائح التي انتشرت في الإنترنت، اتخذت شركة «إكس إيه آي» اليوم (الخميس) قراراً صارماً يقضي بحظر توليد الصور الفاضحة تمامًا لجميع المستخدمين.
وأوضحت الشركة أن الحظر يشمل جميع النسخ المدفوعة والمجانية، ويمنع «غروك» من توليد أي محتوى فاضح في الأماكن التي يخالف فيها القانون، بعد أن استغله بعض المستخدمين لتوليد صور عنيفة وفاضحة لشخصيات عامة وحتى للأطفال، ما أثار انتقادات واسعة من جمعيات حقوقية وحكومات عدة حول العالم.
وكان المدير التنفيذي ومؤسس الشركة إيلون ماسك قد أكد في تغريدة رسمية أن «غروك» لا يولّد الصور الفاضحة بشكل تلقائي، وأن أي محتوى فاضح كان نتيجة طلبات المستخدمين، مشددًا على التزام المنصة بالقوانين المحلية والدولية، خصوصًا بعد صدور قانون جديد في المملكة المتحدة يجرّم توليد صور دون موافقة صاحبها.
وجاء هذا القرار بعد أسابيع من الضغوط العالمية، حيث طالبت مجموعات حقوقية بحظر «غروك» من متاجر الهواتف بالكامل، بينما كشف تقرير موقع «وايرد» أن التطبيق المستقل للروبوت كان يتيح توليد صور وفيديوهات عنيفة وفاضحة، ما زاد من حدة الأزمة وأثار المخاوف حول سلامة الأطفال والمستخدمين.
وليست هذه الأزمة الأولى لـ«غروك»، إذ واجه العام الماضي فضائح تتعلق بالهلوسة المستمرة والتغريدات العنصرية، ما جعل الشركة تتجه الآن لإصلاح الوضع سريعًا، وتحجيم قدرات الروبوت على المحتوى الضار، في محاولة لإنقاذ سمعتها ومنصة «إكس» من كارثة رقمية عالمية.
After the transformation of the "X" platform and the AI robot "Grok" into a global crisis center following a wave of scandals that spread across the internet, "X AI" today (Thursday) made a strict decision to completely ban the generation of explicit images for all users.
The company clarified that the ban includes all paid and free versions, preventing "Grok" from generating any explicit content in places where it violates the law, after some users exploited it to generate violent and explicit images of public figures and even children, which sparked widespread criticism from human rights organizations and several governments around the world.
The CEO and founder of the company, Elon Musk, confirmed in an official tweet that "Grok" does not automatically generate explicit images, and that any explicit content was a result of user requests, emphasizing the platform's commitment to local and international laws, especially after a new law was enacted in the United Kingdom that criminalizes the generation of images without the owner's consent.
This decision came after weeks of global pressure, as human rights groups called for "Grok" to be banned from app stores entirely, while a report from "Wired" revealed that the independent application of the robot allowed the generation of violent and explicit images and videos, which intensified the crisis and raised concerns about the safety of children and users.
This is not the first crisis for "Grok," as it faced scandals last year related to ongoing hallucinations and racist tweets, prompting the company to now move quickly to rectify the situation and limit the robot's capabilities regarding harmful content, in an attempt to save its reputation and the "X" platform from a global digital disaster.
