كشفت أبحاث حديثة أن نماذج الذكاء الاصطناعي قد تتأثر بتكرار المعلومات الخاطئة، إذ يمكن أن يؤدي تعرّض النموذج مراراً لمعلومة غير صحيحة إلى زيادة احتمالات تبنيها أو التعامل معها باعتبارها أكثر موثوقية، في ظاهرة تشبه ما يعرف لدى البشر بـ«وهم الحقيقة».
وتشير دراسة تناولت سلوك النماذج اللغوية إلى أن تكرار المعلومات المضللة يمكن أن يرفع معدلات قبولها لدى بعض النماذج، خصوصاً عندما تُقدَّم بصياغة واثقة أو ضمن مصادر تبدو موثوقة. كما أظهرت أبحاث أخرى أن تعريض النماذج باستمرار لبيانات ملوثة قد يؤدي إلى تحوّلات في تمثيلها الداخلي للحقائق، ما يفتح باباً جديداً للنقاش حول جودة بيانات التدريب والتحديث المستمر للنماذج.
وتزداد أهمية هذه النتائج مع توسع الاعتماد على الذكاء الاصطناعي في البحث والإعلام والتعليم واتخاذ القرارات، إذ إن تكرار المعلومة على نطاق واسع عبر الإنترنت قد يمنحها حضوراً أكبر داخل البيانات التي تتعامل معها الأنظمة الذكية، حتى عندما تكون غير دقيقة.
ويرى الباحثون أن الحد من هذا الخطر يتطلب تحسين آليات التحقق من المصادر، وتنقية بيانات التدريب، ومنح المصادر الموثوقة وزناً أكبر، إلى جانب استمرار المراجعة البشرية في المجالات الحسّاسة.