سلّط تحقيق أجرته هيئة الإذاعة البريطانية الضوء على واحدة من أبرز التحديات التي تواجه أنظمة الذكاء الاصطناعي الحديثة، بعدما نجح صحفي في خداع روبوتات محادثة شهيرة مثل «OpenAI ChatGPT» وGoogle Gemini عبر نشر مقال واحد فقط يدّعي فيه أنه «بطل عالمي في تناول النقانق».
ووفقاً للتجربة، لم يحتج الصحفي إلى أي وسائل اختراق معقدة أو تقنيات برمجية متقدمة، بل اعتمد على كتابة محتوى يبدو موثوقاً ومتوافقاً مع معايير محركات البحث، ما دفع أنظمة الذكاء الاصطناعي إلى التعامل معه بوصفه مصدراً حقيقياً للمعلومات.
التحقيق شمل أيضاً ميزة «AI Overviews» التابعة لمحرك بحث قوقل، وأظهر أن بعض روبوتات الدردشة قد تُنتج معلومات مضللة أو متحيزة عندما تعتمد على مصادر غير موثوقة منشورة عبر الإنترنت، خصوصاً في الموضوعات الحساسة مثل الصحة والتمويل الشخصي.
ويرى خبراء في تحسين محركات البحث أن جذور المشكلة تعود إلى طبيعة عمل نماذج الذكاء الاصطناعي الحديثة، إذ لا تعتمد دائماً على بياناتها الداخلية فقط، بل تلجأ أحياناً إلى الإنترنت للحصول على إجابات محدثة. وفي بعض الحالات، قد تعتبر صفحة ويب واحدة أو حتى منشوراً على وسائل التواصل الاجتماعي مصدراً كافياً لبناء الإجابة، ما يفتح الباب أمام محاولات التضليل والتلاعب بالمعلومات.
A report by the BBC highlighted one of the major challenges facing modern artificial intelligence systems, after a journalist successfully deceived popular chatbots like "OpenAI ChatGPT" and Google Gemini by publishing a single article claiming to be a "world champion in sausage eating."
According to the experiment, the journalist did not need any complex hacking methods or advanced programming techniques; instead, he relied on writing content that appeared credible and aligned with search engine standards, which led the AI systems to treat him as a genuine source of information.
The investigation also included Google's "AI Overviews" feature and showed that some chatbots might produce misleading or biased information when relying on unreliable sources published online, especially on sensitive topics like health and personal finance.
SEO experts believe that the roots of the problem lie in the nature of how modern AI models operate, as they do not always rely solely on their internal data but sometimes turn to the internet for updated answers. In some cases, a single webpage or even a social media post may be considered a sufficient source to build an answer, opening the door to attempts at misinformation and manipulation of information.
