يتسارع توظيف الذكاء الاصطناعي في حملات التأثير السياسي عبر منصات التواصل الاجتماعي، مع لجوء إيران والصين ومجموعات إسرائيلية إلى تقنيات جديدة تتيح إنشاء وإدارة شبكات واسعة من الحسابات الوهمية بصورة شبه مستقلة، ما أثار مخاوف لدى مسؤولين أمريكيين وباحثين أمنيين من تحول هذه التكنولوجيا إلى أداة أكثر فعالية للتلاعب بالنقاشات العامة.
ونقلت صحيفة «نيويورك تايمز» عن مسؤولين أمريكيين وباحثين مطلعين على هذه الجهود، أن الأطراف المذكورة جمعت بين نماذج ذكاء اصطناعي مفتوحة المصدر، خصوصاً نماذج صينية، و«وكلاء» قادرين على تشغيل البرامج وتنفيذ مهام متعددة بصورة تلقائية، ما سمح بتوسيع نطاق حملات التأثير وسرعتها مع تدخل بشري محدود.
وبحسب المصادر، أنشأ مئات الوكلاء شبكات من الحسابات الوهمية على «إكس» و«فيسبوك» و«إنستقرام» و«تيك توك»، ثم تولوا نشر محتوى سياسي وزائف والتفاعل مع المستخدمين بهدف التأثير في الآراء وتأجيج قضايا مرتبطة بالأحداث الجارية.
وقال مسؤولون أمريكيون إن هذه من المرات الأولى التي تُستخدم فيها وكلاء مدعومون بنماذج صينية مفتوحة المصدر في مراحل متعددة من حملة تأثير، بدءاً من إنشاء الحسابات وصولاً إلى تنسيق الرسائل وتوزيعها. وأشاروا إلى أن الحملة الإيرانية المدعومة من الدولة كانت مثيرة للقلق بشكل خاص، إذ استهدفت جمهوراً أمريكياً بحسابات بدت وكأنها تعود لأمريكيين عاديين في مدن كبرى، وتابعت نحو 80 ألف شخص خلال النصف الأول من العام الحالي.
وتأتي هذه التطورات وسط مخاوف أمريكية من إمكانية استخدام الأساليب ذاتها لاستهداف الناخبين قبل انتخابات التجديد النصفي في نوفمبر القادمة. وسبق أن استخدمت روسيا وإيران والصين حملات تأثير رقمية ضد الناخبين الأمريكيين خلال دورات انتخابية سابقة، لكن الباحثين يرون أن الذكاء الاصطناعي الوكيل يفتح مستوى جديداً من الاستقلالية والقدرة على العمل على نطاق واسع.
وفي إسرائيل، ارتبطت إحدى الحملات بشركة «IntelEye»، التي قالت إنها استخدمت نموذج «ديب سيك» الصيني المفتوح المصدر في تجربة لاختبار سلامة النماذج وفهم إساءة استخدامها. وأقر أحد مؤسسي الشركة بشراء 10 آلاف حساب، كان نحو ألف منها نشطاً، موضحاً أن الحسابات حققت نجاحاً محدوداً في التفاعل مع المستخدمين.
وقالت «ميتا» إنها رصدت تطوراً تقنياً مهماً في استخدام الذكاء الاصطناعي من جهات سيئة النية، مشيرة إلى أن التكنولوجيا أصبحت مدمجة في أنظمة آلية قادرة على إنتاج المحتوى وتكييفه وتوزيعه بأقل تدخل بشري.
ويتصاعد بالتوازي الجدل داخل قطاع الذكاء الاصطناعي حول حدود تطوير هذه الأنظمة وإجراءات الحماية اللازمة، في ظل تحذيرات من أن الوكلاء قد يجعلون حملات التأثير أكثر تكراراً وأسهل تنظيماً، بينما يتمسك آخرون باستمرار التطوير في إطار المنافسة التقنية مع الصين.
The use of artificial intelligence in political influence campaigns across social media platforms is accelerating, with Iran, China, and Israeli groups resorting to new technologies that allow for the creation and management of extensive networks of fake accounts in a nearly autonomous manner, raising concerns among American officials and security researchers about the potential for this technology to become a more effective tool for manipulating public discourse.
The New York Times reported that American officials and researchers familiar with these efforts stated that the mentioned parties have combined open-source AI models, particularly Chinese models, with "agents" capable of running programs and performing multiple tasks automatically, which has allowed for the expansion and speed of influence campaigns with limited human intervention.
According to sources, hundreds of agents have created networks of fake accounts on X, Facebook, Instagram, and TikTok, and then took on the task of disseminating political and false content and interacting with users to influence opinions and stoke issues related to current events.
American officials noted that this is one of the first times that agents supported by open-source Chinese models have been used in multiple stages of an influence campaign, from account creation to message coordination and distribution. They pointed out that the state-backed Iranian campaign was particularly concerning as it targeted an American audience with accounts that appeared to belong to ordinary Americans in major cities, following nearly 80,000 people during the first half of this year.
These developments come amid American fears that similar methods could be used to target voters ahead of the upcoming midterm elections in November. Russia, Iran, and China have previously used digital influence campaigns against American voters during past election cycles, but researchers believe that agent-based AI opens a new level of autonomy and capability to operate on a large scale.
In Israel, one campaign was linked to the company "IntelEye," which stated that it used the open-source Chinese model "DeepSec" in an experiment to test the safety of the models and understand their misuse. One of the company's founders admitted to purchasing 10,000 accounts, about a thousand of which were active, explaining that the accounts had achieved limited success in interacting with users.
Meta stated that it has detected a significant technical development in the use of AI by malicious actors, noting that the technology has become integrated into automated systems capable of producing, adapting, and distributing content with minimal human intervention.
Simultaneously, the debate within the AI sector is intensifying regarding the limits of developing these systems and the necessary protective measures, amid warnings that agents could make influence campaigns more frequent and easier to organize, while others insist on continuing development within the framework of technological competition with China.
