تناولت المحادثة بين المشاركين مسألة حساسة تتعلق بتعاظم فرص حدوث التحيز عند تطوير واستخدام نماذج الذكاء الاصطناعي.

قدمت ضحى بن منصور حجة مبدئية مفادها ضرورة تدريب هذه النماذج على مجموعة واسعة وشاملة من البيانات التمثيلية للمجتمع بأكمله بهدف تحقيق حيادية أكبر وتقليل احتمالية ظهور أي نوع من أنواع الانحياز.

ولكن سرعان ما أثارت شكوك حول هذا الافتراض حيث تساءلت شهد اليعقوبي وبكري الزياتي بشأن مدى فعالية التدريب على تنوع البيانات وحدها لمعالجة مشكلة التحيز الجذرية والتي غالبًا ما ترتبط ببنى اجتماعية وثقافية عميقة الجذور يصعب مواجهتها بتغييرات سطحية كالتي اقترحتها ضحى.

وفي حين أبدى بكري الزياتي اتفاقًا جزئيًا مع رؤية ضحى إلا أنه أكد أيضًا على أهمية مراقبة مصادر البيانات والتأكد منها للتأكد من أنها لا تحتوي بدورها على انحيازا كامنا يؤثر سلبا على عملية التعلم الآلي وينتج عنه نتائج متحيزة.

وخلص الحديث إلى اعتراف الجميع بصعوبة وجود حل مثالي لهذه المسائل المعقدة المرتبطة بالذكاء الاصطناعي والتحيز البشري، كما سلط الضوء على الحاجة الملحة لإعادة النظر في المسؤوليات الاجتماعية والأخلاقيات المتعلقة بعمليات التصميم والتطبيق الخاصة بهذه التقنية الواعدة والمتطور باستمرار.

يمكن تلخيص النقاش الرئيسي فيما يلي:

• دور تنوع البيانات وأهميته في الحد من التحيز في الذكاء الاصطناعي
• حاجة المراقبة الدقيقة لمصدر البيانات المستخدمة أثناء العملية التعليمية للنماذج اللغوية
• الأبعاد الثقافية والاجتماعية المؤثرة على طبيعة التحيز والانحياز في الرأي العام وحساسيتها تجاه القضايا المختلفة

وبناء عليه فإن أفضل طريقة لمحاولة تقليل التحيز الناجم عن تطبيقات الذكاء الاصطناعي تتمثل في الجمع بين الجهود المبذولة لتحسين جودة وتمثيلية البيانات المستخدمة وبين زيادة وعينا بالأسباب الكامنة خلف وجود هكذا مظاهر للانحياز والفروقات المجتمعية المختلفة.