كشفت أبحاث حديثة أن نماذج الذكاء الاصطناعي قد تتأثر بتكرار المعلومات الخاطئة، إذ يمكن أن يؤدي تعرّض النموذج مراراً لمعلومة غير صحيحة إلى زيادة احتمالات تبنيها أو التعامل معها باعتبارها أكثر موثوقية، في ظاهرة تشبه ما يعرف لدى البشر بـ«وهم الحقيقة».
وتشير دراسة تناولت سلوك النماذج اللغوية إلى أن تكرار المعلومات المضللة يمكن أن يرفع معدلات قبولها لدى بعض النماذج، خصوصاً عندما تُقدَّم بصياغة واثقة أو ضمن مصادر تبدو موثوقة. كما أظهرت أبحاث أخرى أن تعريض النماذج باستمرار لبيانات ملوثة قد يؤدي إلى تحوّلات في تمثيلها الداخلي للحقائق، ما يفتح باباً جديداً للنقاش حول جودة بيانات التدريب والتحديث المستمر للنماذج.
وتزداد أهمية هذه النتائج مع توسع الاعتماد على الذكاء الاصطناعي في البحث والإعلام والتعليم واتخاذ القرارات، إذ إن تكرار المعلومة على نطاق واسع عبر الإنترنت قد يمنحها حضوراً أكبر داخل البيانات التي تتعامل معها الأنظمة الذكية، حتى عندما تكون غير دقيقة.
ويرى الباحثون أن الحد من هذا الخطر يتطلب تحسين آليات التحقق من المصادر، وتنقية بيانات التدريب، ومنح المصادر الموثوقة وزناً أكبر، إلى جانب استمرار المراجعة البشرية في المجالات الحسّاسة.
Recent research has revealed that artificial intelligence models may be influenced by the repetition of false information, as repeated exposure to incorrect information can increase the likelihood of adopting it or treating it as more reliable, in a phenomenon similar to what is known among humans as the "illusion of truth."
A study examining the behavior of language models indicates that the repetition of misleading information can raise acceptance rates among certain models, especially when presented in a confident manner or from sources that appear trustworthy. Other research has shown that continuously exposing models to contaminated data may lead to shifts in their internal representation of facts, opening a new avenue for discussion about the quality of training data and the ongoing updating of models.
The significance of these findings grows with the increasing reliance on artificial intelligence in research, media, education, and decision-making, as the widespread repetition of information online may grant it a greater presence within the data that intelligent systems process, even when it is inaccurate.
Researchers believe that mitigating this risk requires improving source verification mechanisms, purifying training data, and giving greater weight to reliable sources, alongside the continued human review in sensitive areas.
