فيسبوك.. كيف تحولت إلى منصة تحض على الكراهية وتنشر العنف؟
ربما تكون الشبكة الاجتماعية فيسبوك في كل مكان في العالم تقريبا، بنحو 3 مليارات مستخدم، إلا أن عدد مراجعيها البشريين وقسم الإشراف على المحتوى ليس بمثل انتشارها، ولا يتواجدون عندما تكون المنصة بحاجة إليهم والسبب أن آليات الذكاء الاصطناعي أو حتى المراجعة البشرية لا تستطيع فهم الفروق واللهجات العربية المختلفة.
ما القصة؟
أطلق فيسبوك دعمًا للغة العربية في عام 2009 وحقق نجاحًا كبيرًا وبعد فترة وجيزة نالت الخدمة الاستحسان لمساعدتها في الاحتجاجات الجماهيرية المعروفة باسم الربيع العربي. بحلول العام الماضي، كانت اللغة العربية هي اللغة الثالثة الأكثر شيوعًا على المنصة حيث يقضي الأشخاص في الشرق الأوسط وشمال إفريقيا وقتًا أطول كل يوم على خدمات فيسبوك مقارنة بالمستخدمين في أي منطقة أخرى بالعالم.
وفقًا لاستطلاعين داخليين في العام الماضي، كان فيسبوك أقل نجاحًا عندما يتعلق الأمر بفهم المحتوى العربي واتخاذ إجراءات صارمة ضده وأظهر الاستطلاع الأول شرح مفصل لطريقة معالجة فيسبوك للغة العربية والاستطلاع الآخر أظهر كيف يكافح المراجعون الآليون والبشريون للشركة لفهم اللهجات المختلفة المستخدمة في الشرق الأوسط وشمال إفريقيا حيث أن اللغة العربية ليست لغة واحدة، من الأفضل التفكير في الأمر كعائلة لغوية كبيرة ومتشعبة.
ونتيجة لذلك في منطقة تعاني عدم الاستقرار السياسي، قامت الشركة عن طريق الخطأ بالسماح للمنشورات التي تروّج الإرهاب بالانتشار وظهر للمستخدم العربي محتوى سيء أو يحض على الكراهية كان من المفترض ألا يراه.
يعد توثيق نقاط الضعف العربية على فيسبوك جزءًا من شريحة من المواد الداخلية المعروفة مجتمعة باسم "أوراق فيسبوك" والتي تجاهلتها المنصة على الرغم من أن غالبية مستخدميها يعيشون في مناطق محرومة اقتصاديًا من العالم وتعاني من أنواع التوترات العرقية والعنف السياسي التي غالبًا ما تضخمها وسائل التواصل الاجتماعي.
تم الكشف عن المستند إلى لجنة الأوراق المالية والبورصات وتم تقديمه إلى الكونجرس في نموذج تم تحريره بواسطة الموظفة السابقة فرانسيس هوغن وتمت مراجعة النسخة المحررة من قبل مجموعة من المؤسسات الإخبارية الشهيرة مثل وايرد وول ستريت جورنال وذا جارديان وغيرهم.
عنصرية فيسبوك
تقدم مجموعة "أوراق فيسبوك" رؤية محدودة داخل الشبكات الاجتماعية لكنها تكشف ما يكفي لشرح التحديات الهائلة التي أحدثها نجاح فيسبوك حيث تطور موقع تقييم مظهر الطالبات في جامعة هارفارد إلى منصة عالمية يستخدمها ما يقرب من 3 مليارات شخص بأكثر من 100 لغة. في حين أنه من غير الممكن تنظيم مثل هذه الخدمات بشكل كامل فإن حماية الشركة للمستخدمين تبدو غير متساوية لا سيما في البلدان الفقيرة حيث تعتبر المنصة مستخدمو فيسبوك الذين يتحدثون لغات مثل العربية والباشتو والأرمينية هم فعليًا مواطنون من الدرجة الثانية في أكبر شبكة اجتماعية في العالم.
تتضمن بعض إخفاقات فيسبوك المفصلة في الوثائق مشكلات فنية صعبة حقًا، مثلا تستخدم المنصة الذكاء الاصطناعي للمساعدة في إدارة المحتوى الإشكالي. على نطاق فيسبوك ، لا يمكن للبشر مشاهدة جميع المنشورات. لكن علماء الكمبيوتر يقولون إن خوارزميات التعلم الآلي لا تزال لا تفهم الفروق الدقيقة في اللغة. يبدو أن أوجه القصور الأخرى تعكس اختيار فيسبوك لأين وكمية الاستثمار والتي حققت أكثر من 29 مليار دولار العام الماضي.
على سبيل المثال، وفقًا لفيسبوك، ما يقرب من ثلثي الأشخاص الذين يستخدمون الخدمة يستخدمون لغات أخرى غير الإنجليزية وهم ينظمون المحتوى بنفس الطريقة حول العالم. قال متحدث باسم إحدى الشركات إن هناك 15 ألف شخص مهمتهم مراجعة المحتوى بأكثر من 70 لغة ومع ذلك، يقدم فيسبوك خدماته بأكثر من 110 لغة.
فيسبوك لا يهتم سوى بالربح!
هل تتذكرون ما حدث في أفغانستان؟ كانت مذكرة ديسمبر 2020 بشأن مكافحة خطاب الكراهية في أفغانستان هي أن فيسبوك لم يترجم معايير المجتمع إلى اللغتين الرسميتين للبلاد وهما الباشتو أو الداري حتى يتمكن المستخدمون من رؤية محتوى به إشكالية ومن ثم الإبلاغ عنه للمنصة ولكن كانت عملية الإبلاغ عن المحتوى السيء صعبة على المستخدمين.
تمت ترجمة النموذج عبر الإنترنت للإبلاغ عن خطاب الكراهية جزئيًا فقط إلى لغتين مع عرض العديد من الكلمات باللغة الإنجليزية وتقول المذكرة إن ترجمة فيسبوك لمصطلح خطاب الكراهية "لا تبدو دقيقة".
وقالت متحدثة باسم شركة فيسبوك في بيان "عند محاربة خطاب الكراهية على المنصة فإن هدفنا هو الحد من انتشاره وهو ما يراه الناس بالفعل".
أصدرت شركة فيسبوك مؤخرًا أرقامًا تشير إلى متوسط انخفاض عالمي في محتوى الكراهية والعنف منذ منتصف عام 2020 وعن هذا قالت الشبكة الإجتماعية "هذا هو الجهد الأكثر شمولاً للقضاء على المحتوى الضار لشركات التكنولوجيا الاستهلاكية الكبرى، لدينا المزيد من العمل الذي يتعين علينا القيام به لكننا نواصل القيام بذلك بشكل صحيح".
أخيرا، يمكن القول بأن فيسبوك عبارة عن شركة تحقق أرباحا بغض النظر عن سلامة وأمان مستخدميها كما أنها تتعامل مع المستخدمين بشكل عنصري، هناك فرق في المعاملة بين مستخدمي أمريكا وأوروبا وأيضا أفريقيا وآسيا.
?xml>