تواجه شركة xAI، المملوكة لإيلون ماسك، دعوى قضائية جديدة تتهم روبوت الذكاء الاصطناعي «غروك» باستخدام مواد استغلال جنسي للأطفال في تدريب نماذجه، في أحدث تصعيد للجدل المتعلق بقدرات المنصة على إنتاج محتوى جنسي مزيف.
وأقامت امرأة تُعرف في أوراق القضية باسم «جين دو» دعوى جماعية أمام محكمة أمريكية، قالت فيها إن صورًا مرتبطة باستغلالها جنسيًا عندما كانت طفلة استُخدمت ضمن البيانات التي دُرّب عليها «غروك»، ما أدى، بحسب الدعوى، إلى إمكانية إنتاج مواد مسيئة جديدة تصورها هي وضحايا آخرين.
وتقول المدعية، التي سبق أن تعرضت للاستغلال وهي طفلة وتخضع لبرنامج مراقبة من مكتب التحقيقات الفيدرالي، إن صور الاعتداء عليها ظلت متداولة على الإنترنت لسنوات، قبل أن تظهر لاحقًا مواد مولدة بالذكاء الاصطناعي تصورها من جديد.
وتتهم الدعوى xAI بتصميم «غروك» بطريقة سمحت له بالاستجابة لطلبات المستخدمين المتعلقة بالمحتوى الجنسي، معتبرة أن الشركة لم تتعامل بالقدر الكافي مع مخاطر وصول مواد استغلال الأطفال إلى نماذجها أو استخدامها في تدريبها.
وبحسب الدعوى، فإن سياسة xAI المتعلقة بالمحتوى المنشور على منصة «إكس» والمحتوى الذي ينتجه «غروك» تثير مخاوف بشأن إمكانية استخدام هذه المواد في تطوير النماذج. وتقول المدعية إن المشكلة لا تنتهي بمجرد حذف صورة أو مقطع، إذا كانت المادة قد دخلت بالفعل في بيانات التدريب، لأن النموذج قد يحتفظ بآثارها ويعيد إنتاج مخرجات مسيئة في المستقبل.
وتطالب الدعوى بتعويضات للضحايا، إلى جانب إلزام xAI بإزالة مواد استغلال الأطفال التي يُزعم أن «غروك» أنتجها، ومنع استخدامها في تدريب النماذج مستقبلًا.
وقالت المحامية مارغريت إي. مابي، التي تمثل المدعية، إن قوانين حماية الأطفال الفيدرالية لا تستثني الذكاء الاصطناعي، معتبرة أن حيازة مواد استغلال الأطفال أو إنتاجها أو توزيعها يظل جريمة بغض النظر عن التكنولوجيا المستخدمة.
وتأتي القضية في وقت تواجه فيه xAI سلسلة من الدعاوى والانتقادات بشأن «غروك»، بعد اتهامات باستخدامه في إنشاء صور جنسية مزيفة لأشخاص حقيقيين، بينهم قاصرون، وسط مخاوف متزايدة من إساءة استخدام أدوات توليد الصور والفيديو بالذكاء الاصطناعي.
وتكتسب الدعوى الجديدة أهمية خاصة لأنها لا تركز فقط على قدرة «غروك» على إنتاج محتوى مسيء، وإنما تطرح اتهامًا أكثر خطورة يتعلق بمصدر البيانات التي دُرب عليها النموذج، وما إذا كانت مواد استغلال أطفال حقيقية قد أصبحت جزءًا من عملية تطويره.
xAI, owned by Elon Musk, is facing a new lawsuit accusing its AI robot "Grok" of using child sexual exploitation materials in training its models, marking the latest escalation in the controversy surrounding the platform's ability to produce fake sexual content.
A woman known in court documents as "Jane Doe" has filed a class-action lawsuit in a U.S. court, stating that images related to her sexual exploitation as a child were used among the data on which "Grok" was trained, leading, according to the lawsuit, to the potential production of new abusive materials depicting her and other victims.
The plaintiff, who was previously exploited as a child and is under monitoring by the FBI, claims that images of her abuse have circulated online for years before AI-generated materials depicting her emerged later.
The lawsuit accuses xAI of designing "Grok" in a way that allowed it to respond to user requests related to sexual content, arguing that the company did not adequately address the risks of child exploitation materials reaching its models or being used in its training.
According to the lawsuit, xAI's policy regarding content published on the "X" platform and content generated by "Grok" raises concerns about the potential use of these materials in model development. The plaintiff states that the problem does not end with simply deleting an image or clip if the material has already entered the training data, as the model may retain traces of it and reproduce abusive outputs in the future.
The lawsuit seeks damages for the victims, along with requiring xAI to remove child exploitation materials that "Grok" allegedly produced, and to prevent their use in future model training.
Attorney Margaret E. Mabe, who represents the plaintiff, stated that federal child protection laws do not exempt artificial intelligence, asserting that the possession, production, or distribution of child exploitation materials remains a crime regardless of the technology used.
This case comes at a time when xAI is facing a series of lawsuits and criticisms regarding "Grok," following accusations of its use in creating fake sexual images of real people, including minors, amid growing concerns over the misuse of AI-generated image and video tools.
The new lawsuit is particularly significant as it not only focuses on "Grok's" ability to produce abusive content but also raises a more serious accusation regarding the source of the data on which the model was trained, and whether real child exploitation materials have become part of its development process.
