في خطوة غير مسبوقة، فرضت إندونيسيا، اليوم (السبت)، حظراً مؤقتاً على الوصول إلى روبوت الدردشة Grok الذي طورته شركة xAI التابعة لإيلون ماسك، وذلك بسبب مخاطر إنتاج محتوى إباحي وجنسي مولد بالذكاء الاصطناعي دون موافقة الأشخاص، بما في ذلك صور «التعرية الرقمية» (deepfakes) للنساء والأطفال.
وأصبحت إندونيسيا أول دولة تمنع الوصول إلى هذه الأداة الذكية، وسط تصاعد الانتقادات الدولية لعدم كفاية الضوابط الأمنية في Grok، خصوصا بعد إضافة ميزة تعديل الصور في ديسمبر 2025 التي سهلت إنتاج صور جنسية غير مرغوبة.
انتهاك خطير لحقوق الإنسان
وقالت وزيرة الاتصالات والمعلومات الرقمية ميوتيا حفيض في بيان رسمي: «ترى الحكومة أن ممارسة الـ deepfakes الجنسية غير المتوافق عليها انتهاك خطير لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي.»
وأضافت أن الحظر جاء «لحماية النساء والأطفال والمجتمع بأكمله من مخاطر المحتوى الإباحي المزيف المولد بالذكاء الاصطناعي»، مشيرة إلى أن الوزارة استدعت مسؤولي منصة X (تويتر سابقاً) لمناقشة الأمر وطلب توضيحات حول الإجراءات الوقائية.
إجراءات xAI لتقييد تعديل الصور
ويأتي الحظر الإندونيسي بعد أيام قليلة من إعلانxAI، يوم الخميس الماضي، تقييد ميزة توليد وتعديل الصور لتصبح متاحة فقط للمشتركين المدفوعين (Premium وPremium+) على منصة X، في محاولة لإصلاح «ثغرات الحماية» التي سمحت بإنتاج صور جنسية، بما في ذلك صور أطفال بملابس قليلة.
ورغم ذلك، وصف بعض المنتقدين هذا التقييد بأنه «غير كافٍ» أو حتى «مهين» للضحايا، حيث يحول الميزة إلى خدمة مدفوعة بدلاً من إلغائها تماماً.
إيلون ماسك نفسه أكد على منصة «إكس» أن «أي شخص يستخدم Grok لإنتاج محتوى غير قانوني سيواجه نفس العواقب كما لو قام برفعه مباشرة»، مشدداً على حظر الحسابات المتورطة والتعاون مع السلطات.
ردود الفعل الدولية
في سياق متصل، أعلن رئيس الوزراء الأسترالي أنتوني ألبانيز عن استيائه الشديد، واصفاً استخدام الذكاء الاصطناعي لاستغلال الناس جنسياً دون موافقة بأنه «مروع تماماً»، وأكد أن وسائل التواصل يجب أن تتحمل مسؤولية اجتماعية أكبر.
كما أعلن مكتب السلامة الإلكترونية في أستراليا زيادة التقارير عن صور جنسية مولدة بواسطةGrok، وهدد باستخدام صلاحياته لإزالة المحتوى غير القانوني.
فيما فتحت دول أخرى مثل المملكة المتحدة، الاتحاد الأوروبي، الهند، ماليزيا، وفرنسا تحقيقات وهددت بإجراءات تنظيمية، بما في ذلك احتمال حظر X أو فرض غرامات للحماية من الاستغلال الجنسي والانتهاكات الأخلاقية، خصوصا مع انتشار أدوات «التعرية الرقمية» التي تستهدف النساء والأطفال دون موافقتهم.
In an unprecedented move, Indonesia today (Saturday) imposed a temporary ban on access to the Grok chatbot developed by Elon Musk's xAI, due to the risks of generating pornographic and sexual content using artificial intelligence without individuals' consent, including images of "digital nudity" (deepfakes) of women and children.
Indonesia has become the first country to ban access to this intelligent tool, amid growing international criticism over inadequate security controls in Grok, especially after the addition of the image editing feature in December 2025, which facilitated the production of unwanted sexual images.
Serious Violation of Human Rights
Digital Communications and Information Minister Mutiya Hafidh stated in an official statement: "The government sees the practice of non-consensual sexual deepfakes as a serious violation of human rights, dignity, and the security of citizens in the digital space."
She added that the ban was implemented "to protect women, children, and society as a whole from the risks of AI-generated fake pornographic content," noting that the ministry summoned officials from platform X (formerly Twitter) to discuss the matter and request clarifications regarding preventive measures.
xAI's Measures to Restrict Image Editing
The Indonesian ban comes just days after xAI announced last Thursday that it would restrict the image generation and editing feature to be available only to paid subscribers (Premium and Premium+) on platform X, in an attempt to address "security loopholes" that allowed the production of sexual images, including pictures of children in minimal clothing.
However, some critics described this restriction as "insufficient" or even "offensive" to victims, as it turns the feature into a paid service instead of completely eliminating it.
Elon Musk himself confirmed on platform "X" that "anyone using Grok to produce illegal content will face the same consequences as if they had uploaded it directly," emphasizing the banning of involved accounts and cooperation with authorities.
International Reactions
In a related context, Australian Prime Minister Anthony Albanese expressed his strong discontent, describing the use of artificial intelligence to exploit people sexually without consent as "absolutely horrific," and affirmed that social media must take greater social responsibility.
The Australian Cyber Safety Office also announced an increase in reports of sexual images generated by Grok, threatening to use its powers to remove illegal content.
Meanwhile, other countries such as the United Kingdom, the European Union, India, Malaysia, and France have opened investigations and threatened regulatory actions, including the possibility of banning X or imposing fines to protect against sexual exploitation and ethical violations, especially with the spread of "digital nudity" tools targeting women and children without their consent.
