كشف مؤسس تطبيق (تليغرام) ورئيسه التنفيذي بافيل دوروف، تفاصيل جديدة حول الإزالة المؤقتة للتطبيق من متجر (أبل)، مؤكداً أن ما حدث كان نتيجة استغلال ثغرة في آلية الإبلاغ عن المحتوى من قبل شخص وصفه بـ«مبتز إلكتروني محترف في طلبات الحذف».
وأوضح دوروف، في منشور مطوّل عبر منصة (إكس)، أن المهاجم قام بتعديل رسالة قديمة داخل مجموعة نشطة لتبدو وكأنها تحتوي على محتوى غير قانوني تم إنشاؤه أو تعديله باستخدام الذكاء الاصطناعي، رغم أن الرسالة لم تكن مرئية بشكل طبيعي لأعضاء المجموعة، ما جعل اكتشافها أو الإبلاغ عنها أمراً غير مرجح.
وبحسب دوروف، كان المهاجم يخطط لاستخدام عدد كبير من الحسابات الآلية للإبلاغ عن الرسالة المعدلة لدى (أبل)؛ بهدف دفع الشركة إلى حذف التطبيق من متجرها، ثم استخدام هذا الضغط لابتزاز (تليغرام) عبر التهديد بتكرار البلاغات ما لم يحصل على مقابل مالي. وقال دوروف: إن (أبل) أزالت التطبيق قبل التواصل مع الشركة، محذراً من أن هذا النوع من الهجمات قد يشكل خطراً على أي منصة تعتمد على المحتوى الذي ينشئه المستخدمون.
وتعيد هذه الواقعة الجدل حول مسؤولية المنصات الرقمية عن المحتوى المنشور، وهي قضية تواجهها شبكات التواصل الاجتماعي منذ سنوات، خصوصاً في ما يتعلق بالمحتوى غير القانوني أو المخالف. كما أنها ليست المرة الأولى التي يجد فيها (تليغرام) نفسه أمام تساؤلات بشأن الإشراف على المحتوى وآليات التعامل مع البلاغات.
وأشار تقرير (engadget) إلى أن التطور السريع في أدوات الذكاء الاصطناعي، سواء في تعديل الصور والفيديو أو تشغيل الوكلاء البرمجيين القادرين على تنفيذ مهام تلقائية، يزيد من سهولة تنفيذ مثل هذه الهجمات، ويثير مخاوف من إمكانية استغلال الذكاء الاصطناعي للتلاعب بأنظمة الإبلاغ، بما قد يؤدي إلى اتخاذ إجراءات ضد تطبيقات أو منصات رقمية قبل التحقق الكامل من صحة البلاغات.
The founder of the (Telegram) app and its CEO, Pavel Durov, revealed new details about the temporary removal of the app from the (Apple) store, confirming that what happened was the result of exploiting a vulnerability in the content reporting mechanism by a person he described as a "professional cyber extortionist in deletion requests."
Durov explained in a lengthy post on the (X) platform that the attacker modified an old message within an active group to make it appear as if it contained illegal content created or altered using artificial intelligence, even though the message was not normally visible to group members, making its discovery or reporting unlikely.
According to Durov, the attacker planned to use a large number of automated accounts to report the modified message to (Apple) in order to pressure the company into removing the app from its store, and then use this pressure to extort (Telegram) by threatening to repeat the reports unless he received financial compensation. Durov stated that (Apple) removed the app before contacting the company, warning that this type of attack could pose a risk to any platform that relies on user-generated content.
This incident reignites the debate over the responsibility of digital platforms for published content, a matter that social media networks have faced for years, particularly regarding illegal or infringing content. It is also not the first time that (Telegram) has found itself facing questions about content moderation and reporting mechanisms.
An (engadget) report noted that the rapid advancement in artificial intelligence tools, whether in modifying images and videos or running software agents capable of performing automated tasks, increases the ease of executing such attacks and raises concerns about the potential exploitation of artificial intelligence to manipulate reporting systems, which could lead to actions against apps or digital platforms before fully verifying the validity of the reports.
