ديسكورد يعترف بخلل في الإشراف الآلي أوقع أكثر من 8000 مستخدم في حظر خاطئ

أعلنت منصة التواصل الصوتي والنصي ديسكورد اعترافها بخلل تقني خطير أصاب نظام إشراف المحتوى الآلي لديها، مما أسفر عن حظر أكثر من ثمانية آلاف مستخدم حظراً خاطئاً على مدى شهرَين. وكشف تحليل الحادثة أن النظام الذي يعتمد على مطابقة الصور مع قواعد بيانات المحتوى المحظور، أخطأ في التعرف على صور بريئة تماماً شملت جداول بيانات وألواح الشطرنج وقوام الألعاب الرقمية وخلفيات شفافة.

وبيّنت الشركة آلية الخطأ التقني: يعمل نظام الإشراف الآلي بمطابقة البصمة الإدراكية للصور المرفوعة مع قواعد بيانات المحتوى الضار، إلا أن هذا النوع من المطابقة التشابهية يُفضي في بعض الأحيان إلى ما يُعرف بـ«الإيجابية الكاذبة»، أي تصنيف محتوى بريء بوصفه ضاراً. وأشارت الشركة في بيانها الرسمي: «أنظمتنا ترصد المحتوى عبر مطابقته بمواد ضارة معروفة، وهذا النوع من المطابقة قد يُولّد نتائج خاطئة».

وخمّن بعض المستخدمين أن النظام أصبح مفرط الحساسية تجاه الأنماط الشبكية المنتظمة لأنها تُستخدم تاريخياً لإخفاء محتوى غير لائق عن أنظمة الكشف الآلي. كان من اللافت أن النظام نفّذ الحظر فورياً دون مراجعة بشرية كافية، مما فاقم حجم الأضرار. وتضاعف عدد المتضررين بمقدار مئتَي حالة خلال عطلة نهاية الأسبوع الأخيرة قبل اكتشاف المشكلة.

تعهّدت ديسكورد باستعادة جميع الحسابات المتضررة والعمل على «ضمانات أفضل لمنع تكرار هذا الخطأ». غير أن الحادثة تُضيء على إشكالية هيكلية أعمق: في سعي المنصات الرقمية لتوسيع إشراف المحتوى وتسريعه باستخدام الأتمتة، يغدو خطر الإيجابيات الكاذبة ثمناً حتمياً يدفعه مستخدمون أبرياء.

يتمتع ديسكورد بقاعدة واسعة من المستخدمين في العالم العربي، ولا سيما في مجتمعات الألعاب الإلكترونية التي تشهد نمواً متسارعاً في المنطقة؛ إذ تحتضن السعودية والإمارات ومصر بطولات ألعاب إلكترونية متنامية، وباتت خوادم ديسكورد العربية تجمع مئات الآلاف من المستخدمين. ويُذكّر هذا الخلل بحقيقة مقلقة: نادراً ما تُتاح قنوات الاستئناف باللغة العربية، ولا تُعالَج شكاوى المجتمعات العربية بالسرعة ذاتها التي تحظى بها المجتمعات الناطقة بالإنجليزية، مما يُضاعف الأضرار التي يُلحقها أي خلل في أنظمة الإشراف الآلي.

لم تكن ديسكورد الأولى في هذا المضمار؛ إذ سبقتها إنستغرام ومجموعات فيسبوك ومنصة تامبلر بحوادث مشابهة. والسؤال المطروح على كل منصة رقمية كبرى هو: كيف يُوازن نظام إشراف المحتوى الآلي بين الحاجة إلى الحماية والحاجة إلى العدالة في آنٍ واحد؟