بعد واقعة وفاة شاب يبلغ من العمر 16 عاماً، نتيجة مناقشة قضية الانتحار مع ChatGPT لعدة أشهر، أعلنت شركة OpenAI إدخال تحديثات جديدة على تطبيق «شات جي بي تي» بهدف تعزيز قدرته على التعامل مع الأزمات النفسية للمستخدمين.
ويأتي هذا الإجراء عقب وفاة شاب يُعتقد أنه أقدم على إنهاء حياته بعد سلسلة من المحادثات مع نموذج الذكاء الاصطناعي، ما سلّط الضوء على الثغرات المحتملة في تعامل هذه الأنظمة مع الحالات النفسية الحرجة، وفقا لما ذكره موقع «تك كرانش».
وفي هذا الشأن، قالت الشركة في بيان لها: «إن الحالات المُؤلمة الأخيرة لأشخاص استخدموا شات جي بي تي أثناء أزمات حادة تثقل كاهلنا ونعتقد أنّه من المهم مشاركة المزيد الآن»، الأمر الذي جعل الكثير من الأشخاص يتفاعلون معهم.
وأضافت الشركة أنها تعمل على تحديث نموذج «GPT-5» المٌشغل لشات جي بي تي، مما يجعله يشرح للمستخدم خطورة الحرمان من النوم، ويوصي بالراحة.
رد شركة Open-air بعد أن رفعت عائلة من كاليفورنيا دعوى قضائيةً ضدّ الشركة بسبب مخاوفها من أن انتحار ابنها المراهق كان مرتبطاً بمحادثات مقلقة مع تطبيق شات جي بي تي، كما أن عائلة أخرى رفعت دعوى قضائية العام الماضي ضد شركة Character Technologies وذلك بعد أن انتحر ابنها بعد محادثاتٍ مع ذكائها الاصطناعي.
وفاة شاب بسبب شات جي بي تي
ورفع والدا مراهق انتحر، بعد أن دربته ChatGPT على أساليب إيذاء النفس، دعوى قضائية ضد شركة OpenAI والرئيس التنفيذي سام ألتمان، وذلك بعدما اتهما الشركة بوضع الربح عن عمد فوق السلامة عندما أطلقت نسخة GPT-4o من روبوت الدردشة بالذكاء الاصطناعي الخاص بها العام الماضي.
وتوفي آدم راين، 16 عاماً، في 11 أبريل بعد مناقشة الانتحار مع ChatGPT لعدة أشهر، وفقاً للدعوى القضائية التي رفعها والدا راين في محكمة ولاية سان فرانسيسكو.
After the incident involving the death of a 16-year-old boy, resulting from discussions about suicide with ChatGPT for several months, OpenAI announced the introduction of new updates to the "ChatGPT" application aimed at enhancing its ability to handle users' psychological crises.
This action comes following the death of a young man believed to have taken his own life after a series of conversations with the artificial intelligence model, which highlighted potential gaps in how these systems deal with critical psychological cases, according to what was reported by TechCrunch.
In this regard, the company stated in a press release: "The recent painful cases of individuals who used ChatGPT during acute crises weigh heavily on us, and we believe it is important to share more now," which prompted many individuals to engage with them.
The company added that it is working on updating the "GPT-5" model powering ChatGPT, making it explain to users the dangers of sleep deprivation and recommend rest.
This response from OpenAI came after a family from California filed a lawsuit against the company over concerns that their teenage son's suicide was linked to troubling conversations with the ChatGPT application, and another family filed a lawsuit last year against Character Technologies after their son committed suicide following conversations with its artificial intelligence.
Death of a Young Man Due to ChatGPT
The parents of a teenager who committed suicide after being trained by ChatGPT on self-harm methods filed a lawsuit against OpenAI and CEO Sam Altman, accusing the company of prioritizing profit over safety when it launched the GPT-4o version of its AI chatbot last year.
Adam Ryan, 16, died on April 11 after discussing suicide with ChatGPT for several months, according to the lawsuit filed by Ryan's parents in San Francisco state court.
