• صاحب المنشور: حنان المهنا
  
  ملخص النقاش:
  بدأ النقاش بموضوع مقترح من "حنان المهنا"، حيث سلط الضوء على مخاطر تكنولوجيا الذكاء الاصطناعي، خاصة في مجال "التعلم الآلى". وفقًا لها، بينما يركز المجتمع الآن بشكل كبير على الإمكانيات الهائلة لهذا المجال، هناك جانب مظلم يتم تجاهله وهو القدرة على تعلم الآلات الأحكام والأفكار غير المدروسة والتي قد تؤدي إلى ظلم اجتماعي دون تدخل بشري واضح.

رد "مهيب بن عزوز" متفقًا بأن التهديد لا يكمن في تقنية تعلم الآلة ذاتها، ولكنه يأتي من كيفية إدارة واستخدام هذه التقنية. وأشار إلى أن التحيزات الموجودة بالفعل في البيانات المستخدمة في التدريب هي مصدر المشاكل الرئيسية وليست الطريقة نفسها. اقترح التركيز على تحسين نوعية البيانات وإدارة عمليات الذكاء الاصطناعي بشكل دقيق كحل محتمل لمشاكل التحيز.

وأضاف "رنين البرغوثي" مزيداً من الرؤى بقوله إن حتى إن كانت البيانات خالية تمامًا من التحيزات، فقد تستطيع خوارزميات التعلم العميق كشف وتحريف هذه التحيزات بطرق غير واضحة للبشر. لذا، دعا لاستقصاء مفصل حول كيفية عمل هذه الخوارزميات لمنع الاستنتاجات المتحيزة.

وفي رد آخر، أكد "علوان الهاشمي" على أهمية فهم الخوارزميات وخوارزميات التعلم الآلي كمرآة للقيم الإنسانية والمواقف. واقترح أنه بالإضافة إلى التدقيق في عملية التعلم، يجب التركيز أيضاً على الأشخاص الذين يقومون بتوجيه وتعليم هذه الأنظمة. كما توسع في نقاشه الأولي، مؤكداً على حاجتنا للدفع نحو هندسة خوارزميات أكثر عدالة وعدم وجودية لتحقيق المزيد من الشمول والحماية ضد القرارات المتحيزة.

بشكل عام، يدور الجدل حول البحث عن توازن بين تقدير الفوائد المحتملة للذكاء الاصطناعي وحماية حقوق الإنسان من خلال ضمان عدم اتخاذ قرارات متحيزة بواسطة خوارزميات التعلم الآلية.