شركة "يوتيوب" تكشف تطوير آلية ذكية لمكافحة التطرف على الإنترنت

كشفت شركة "يوتيوب" عن أن ترشيح مليار ساعة من مقاطع الفيديو والأفلام والصور، التي تنشر على الموقع يومياً، من المحتويات المتطرفة ليس بالأمر السهل، إلا أنها تنجح مع ذلك في ترشيح آلاف ومنع عشرات الآلاف منها. وذكرت سوزان فويتسكي، الرئيسة التنفيذية لـ"يوتيوب"، على الموقع، أن الخطر على الشركة يزداد ويتنوع، ولهذا لا بد من أساليب جديدة لمواجهة هذا الخطر. وأضافت أن الشركة ستواصل مكافحتها للتطرف على الإنترنت بصورة دائمة وعزيمة بالغة.

ولهذا السبب، سترفع الشركة الأم "غوغل" عدد العاملين في تقنيات فرز وتصنيف المحتويات المتطرفة إلى "جيش" يزيد تعداده على 10 آلاف موظف. وستكون مهمة هذا "الجيش" هي تطوير "سوفت وير" تصنيف وفرز المحتويات المتطرفة. وتشمل هذه التقنيات أساليب تشخيص وإزالة مقاطع الفيديو والصور والخطابات التي تحض على الكراهية أو الخطابات التي تعرض الشباب للخطر. وأشارت إلى أن التقنيات السابقة اعتمدت أسلوب صيد المواد المتطرفة في شبكة التقنيات بشكل يعجز الآخرون عن استدعائها واستخدامها، إلا أن التقنيات الجديدة تنجح في إزالة هذه المواد خلال أقل من ساعة تلي محاولة نشرها على الإنترنت. وطالب منتجو الدعاية على الإنترنت بتطوير تقنيات التعرف على الأفلام والصور المتطرفة كي لا يجري حجب أفلام الدعاية الاعتيادية بالخطأ. ولهذا يستخدم "يوتيوب" "آليات ذكية" قابلة للتعلم.

وقدَّرت فويتسكي إزالة 150 ألف فيلم فيديو يحرض على العنف والتطرف منذ يونيو/حزيران الماضي وتنجح الشركة حالياً في اصطياد نسبة 98 في المائة من هذه المحتويات الخطرة، وتتمكن من إزالة 70 في المائة منها خلال فترة أقصاها 8 ساعات، مع نسبة 50 في المائة منها تتمكن الشركة من إزالتها خلال ساعتين. وقال اتحاد لشركات تكنولوجيا يضم شركات "فيسبوك" و"ألفابت" و"غوغل" و"تويتر" يوم ، الثلاثاء، إن قاعدة للبيانات أنشأها هذا الاتحاد، لتحديد المحتوى المتطرف باتت تضم الآن، أكثر من 40 ألفاً من الفيديوهات أو الصور.

وتأسس منتدى الإنترنت العالمي لمكافحة الإرهاب في يونيو تحت ضغوط من حكومات في أوروبا والولايات المتحدة بعد موجة من الهجمات الإرهابية. وتم توسيع المنتدى في الفترة الأخيرة من خلال ضم شركات "آسك إف إم" و"كلاوديناري" و"إنستغرام" وغيرها. ويضم المنتدى العالمي الآن أكثر من 68 شركة بعد أن كانت طموحه الأولى تقتصر على ضم 50 شركة خلال. وتتعاون هذه الشركات تقنياً في مجال تطوير الأنظمة الذكية القادرة على حجب وإزالة الدعايات والأفلام والصور التي تحض على التطرف والكراهية. وتستخدم المجموعة الحلول التقنية لإزالة المحتوى الإرهابي. وأشارت فويتسكي إلى أن الشركة ستتخذ "إجراءً حاسما بشأن التعليقات وستطلق أدوات جديدة لتعديل التعليقات وفي بعض الحالات ستغلق التعليقات تماما".

وإلى جانب المزيد من الآلاف من مراجعي المحتوى سيكون لدى يوتيوب المزيد من البيانات لإمداد وربما تحسين برنامجه. إلى ذلك، قالت مونيكا بيكرت، رئيسة قسم إدارة السياسة الدولية في "فيسبوك"، إن الشركة طورت آلية ذكية لمنع ذوي الميول الانتحارية من إلحاق الضرر بأنفسهم من خلال المواد التي تنشر على الإنترنت. وأضافت قائلة إلى "رويترز" إن من الممكن تطوير آليات مماثلة لفرز وتصنيف الأفلام والدعايات التي تحض على التطرف في الإنترنت. وإن الشركة تفعل ذلك باستخدام أنظمة آلية قادرة على تشخيص وحجب هذه المحتويات بسرعة. ونوهت إلى أن نظاماً مخصصاً لرصد محتويات منظمة إرهابية معينة قد لا ينجح في رصد محتويات منظمة إرهابية أخرى بسبب فوارق اللغة. ولهذا نركز جهودنا على المجموعات الإرهابية الكبيرة التي تشكل الخطر الأعظم على الأرض وعلى الإنترنت. وأردفت أن هذا الكلام يمس "داعش" و"القاعدة" في المقام الأول، ولهذا فإن "فيسبوك" تركز على وضع آليات تقنية لمواجهة هذين التنظيمين على الإنترنت. وتقول بيكرت إن "فيسبوك" يزيل 83 في المائة من "المحتويات" التي تتعلق بالإرهاب، ويزيل أي نسخة منه، خلال ساعة من نشرها. بل إنه يجري حجبها أحياناً قبل أن تنشر "حياً" على الإنترنت. ومع ذلك تحاول الشركة أن تفعل ما هو أكثر في الحرب على الإرهاب على الإنترنت.

ويُذكر أن دائرة حماية الدستور الألمانية (مديرية الأمن العامة) رأت قبل سنة من الآن ضرورة تحويل دفة الحرب على الإرهاب نحو نزع فتيل النشاط الإرهابي على الإنترنت. وذكر مارين براندنبورغ، رئيس دائرة حماية الدستور في ولاية سكسونيا السفلى، أن ألمانيا نجحت في نزع فتيل منابر الإرهاب إلى حد بعيد من خلال الضربات الأخيرة للمتشددين. وأضاف أن مهمة الأمن في الفترة المقبلة هي تحديد مواقع النشاط الإرهابي على الإنترنت والعمل على نزع فتيلها.