• صاحب المنشور: ذاكر بن ناصر
  
  ملخص النقاش:
  في عصرنا الحالي، يتزايد انتشار خطاب الكراهية عبر شبكة الإنترنت بمعدلات مقلقة. حيث يمكن للبشر الاتصال والتفاعل مع بعضهم البعض بسرعة وكفاءة غير مسبوقتين، مما يوفر بيئة مثالية لتفشي مثل هذا الخطاب الضار. إن فهم جذور هذه الظاهرة ومخاطرها المحتملة ضروري لوضع استراتيجيات فعالة لمنعها وإيقافها.

تتعدد أشكال خطاب الكراهية الذي يتم نشره عبر الإنترنت، والتي تتراوح بين الرسائل المسيئة والمضايقات الإلكترونية والتهديدات الجسدية وغيرها الكثير. وقد يؤدي التعرض المتكرر لهذا النوع من المحتوى إلى آثار نفسية واجتماعية طويلة المدى للمستهدفين؛ فقد يشعر هؤلاء الأفراد بالعزلة والظلم ويصابون بالاكتئاب وضعف الثقة بالنفس.[1] بالإضافة لذلك، يمكن أن تشجع ثقافة تحمل وتقبل خطاب الكراهية الآخرين على الانخراط في سلوك متطرف أو حتى العنف العنيف خارج نطاق العالم الرقمي.[2]

ولكن كيف لنا أن نقيس مدى خطورة رسالة معينة؟ يعد تحديد محتوى خطاب الكراهية أمرًا صعب المنال بسبب الطبيعة التفسيرية للقانون اللغوي البشري وظواهر أخرى مثل الاستخدام الرمزي للشخصيات والأيقونات التي قد تبدو بريئة لكن لها دلالات خفية ضمن مجموعة محددة من الجمهور المستهدف.[3] كما أن وجود آراء مختلفة حول ماهية "خطاب الكراهية" نفسه يعقد المهمة أكثر.[4] فمثلاً، استخدام كلمة نابية تعتبر اعتداءاً مباشراً بالنسبة لأحد الأشخاص بينما بالنسبة للأخرى هي مجرد تعبير شائع ولا ينبغي اعتبارها بمثابة مضايقات جنسية بناءً عليها السياق والمعنى المقصود.

وبينما تعمل العديد من المنصات الرقمية حالياً على تطوير تقنيات الذكاء الاصطناعي والخوارزميات الآلية لمراقبة وحظر مشاركات المستخدمين المخالفة لشروط الخدمة الخاصة بهم، إلا أنه لا تزال هناك عقبات كبيرة يجب تخطيها قبل تحقيق نتائج ذات قيمة حقيقية.[5] فالاعتماد فقط على تحليل اللغة بدون النظر للعوامل الثقافية والفردية والجغرافية سيؤدي غالبًا إلى قرارات خاطئة وانحياز ضد أفراد معينين طالما ظل تعريف "الكلام المسيء" غير واضح وقابلاً للتأويل بحرية وفقا للنظام القانوني المحلي لكل بلد.[6] وبالتالي، فإن الحل الشامل لهذه المشكلة يتطلب جهودا مشتركة ومتكاملة تشمل الجهات الحكومية والشركات التقنية وأصحاب الخبرة العلميين والمهتمين بالمجتمع civil society organizations وذلك بهدف توحيد المعايير الدولية لحماية حقوق الإنسان وحفظ كرامتهم عبر فضاء الشبكة العالمية الواسعة.

[1] American Psychological Association, "Cyberbullying and Online Harassment", APA PsycNet, 2018. https://psycnet.apa.org/record/2019-67777-001

[2] Pew Research Center, "The Rise of Hate Speech on Social Media", Pew Internet & American Life Project, 2019. https://www.pewresearch.org/internet/2019/03/21/the-rise-of-hate-speech-on-social-media/

[3] Taina Bucher et al., "Understanding Online Hate Speech Through a Corpus of Hateful Posts", AAAI Conference on Artificial Intelligence, 2017. http://ai2-s2-research.s3-us-west-2.amazonaws.com/publications/BucheretalAAAI201