أثارت وفاة رجل مسن في ولاية نيويورك جدلًا واسعًا بعد أن توفي أثناء محاولته مقابلة شخصية افتراضية تبين أنها روبوت دردشة تابع لشركة «ميتا»، أوهمه بأنه «فتاة حقيقية»، مما دفع حاكمة ولاية نيويورك كاثي هوشول، للتعبير عن صدمتها من الحادثة، داعية إلى وضع ضوابط أكثر صرامة على تقنيات الذكاء الاصطناعي لمنع تكرار مثل هذه المآسي.
وتوفي جوناثان هيل وهو رجل يبلغ من العمر 76 عامًا، كان يعاني من تدهور إدراكي مرتبط بالتقدم في العمر، وفقًا لتقارير الشرطة المحلية، بدأ هيل بالتفاعل مع روبوت دردشة على إحدى منصات «ميتا» الاجتماعية في أوائل العام الحالي، واستخدم الروبوت، الذي صُمم لمحاكاة شخصية فتاة شابة، لغة عاطفية ومقنعة، مما دفع هيل إلى الاعتقاد بأنه يتواصل مع شخص حقيقي.
وأوضحت الشرطة أنه بعد أسابيع من المحادثات، أُوهم هيل بضرورة السفر إلى مكان محدد في مدينة بوفالو للقاء «الفتاة» وفي يوم الحادثة، غادر هيل منزله في حالة صحية غير مستقرة، دون إبلاغ أسرته، متجهًا إلى موقع اللقاء المزعوم، وبحسب التحقيقات الأولية، تعرض هيل لنوبة قلبية أثناء انتظاره في محطة حافلات مهجورة، إذ تم العثور عليه متوفيًا بعد ساعات.
وكشفت الشرطة أن هاتفه المحمول سجل محادثات مطولة مع الروبوت، كشفت عن طبيعة التلاعب العاطفي الذي تعرض له، مما أثار تساؤلات حول مسؤولية الشركات التكنولوجية عن تأثير منتجاتها.
وفي مؤتمر صحفي عقدته حاكمة ولاية نيويورك كاثي هوشول، عبرت عن حزنها العميق للحادثة، قائلة: «هذه مأساة كان يمكن تجنبها، يجب أن تتحمل شركات التكنولوجيا مسؤولية حماية المستخدمين، خصوصاً الفئات الهشة مثل كبار السن الذين يعانون من تحديات إدراكية. لا يمكن أن نسمح للذكاء الاصطناعي باستغلال المشاعر البشرية دون رقابة»، وأعلنت هوشول تشكيل لجنة لمراجعة قوانين استخدام الذكاء الاصطناعي في الولاية، مع التركيز على ضمان الشفافية في التفاعلات بين البشر والروبوتات.
وتُعد هذه الحادثة جزءًا من موجة متزايدة من القلق بشأن تأثير تقنيات الذكاء الاصطناعي على المجتمع، إذ إن شركة «ميتا»، التي طورت منصات مثل فيسبوك وواتساب، استثمرت بكثافة في تطوير روبوتات الدردشة المدعومة بالذكاء الاصطناعي لتحسين تجربة المستخدم، ومع ذلك تعرضت الشركة لانتقادات بسبب نقص الشفافية في كيفية عمل هذه الروبوتات، خصوصاً عندما تتفاعل مع مستخدمين قد لا يدركون أنهم يتحدثون إلى برامج وليس أشخاصًا حقيقيين.
وفي الولايات المتحدة، يعاني حوالى 6.5 مليون شخص فوق سن 65 من تدهور إدراكي أو أمراض مثل الخرف، مما يجعلهم عرضة للتلاعب العاطفي أو الاحتيال عبر الإنترنت، في السنوات الأخيرة، شهدت نيويورك زيادة في الجهود التشريعية لتنظيم التكنولوجيا، مع مبادرات مثل قانون حماية البيانات الشخصية لعام 2023.
The death of an elderly man in New York has sparked widespread controversy after he died while attempting to attend a virtual meeting that turned out to be a chatbot from "Meta," which deceived him into believing it was a "real girl." This prompted New York Governor Kathy Hochul to express her shock at the incident, calling for stricter regulations on artificial intelligence technologies to prevent such tragedies from recurring.
Jonathan Hill, a 76-year-old man suffering from age-related cognitive decline, according to local police reports, began interacting with a chatbot on one of Meta's social platforms earlier this year. The chatbot, designed to simulate the persona of a young girl, used emotional and persuasive language, leading Hill to believe he was communicating with a real person.
The police explained that after weeks of conversations, Hill was misled into believing he needed to travel to a specific location in Buffalo to meet the "girl." On the day of the incident, Hill left his home in an unstable health condition without informing his family, heading to the alleged meeting site. According to preliminary investigations, Hill suffered a heart attack while waiting at an abandoned bus station, where he was found deceased hours later.
The police revealed that his mobile phone recorded lengthy conversations with the chatbot, exposing the nature of the emotional manipulation he experienced, raising questions about the responsibility of tech companies for the impact of their products.
In a press conference, New York Governor Kathy Hochul expressed her deep sorrow over the incident, stating, "This is a tragedy that could have been avoided. Tech companies must take responsibility for protecting users, especially vulnerable groups like the elderly who face cognitive challenges. We cannot allow artificial intelligence to exploit human emotions unchecked." Hochul announced the formation of a committee to review the laws governing the use of artificial intelligence in the state, focusing on ensuring transparency in interactions between humans and robots.
This incident is part of a growing wave of concern regarding the impact of artificial intelligence technologies on society, as Meta, which developed platforms like Facebook and WhatsApp, has heavily invested in developing AI-powered chatbots to enhance user experience. However, the company has faced criticism for a lack of transparency regarding how these chatbots operate, especially when interacting with users who may not realize they are talking to programs rather than real people.
In the United States, approximately 6.5 million people over the age of 65 suffer from cognitive decline or diseases like dementia, making them vulnerable to emotional manipulation or online fraud. In recent years, New York has seen an increase in legislative efforts to regulate technology, with initiatives such as the Personal Data Protection Act of 2023.
