- صاحب المنشور: فريد الدين بن عبد الله
ملخص النقاش:
انطلق هذا النقاش النقدي حول دور الذكاء الاصطناعي في معالجة القضايا الاجتماعية، حيث طرح المشاركون وجهات نظر مختلفة وتسليط الضوء على المخاطر والفرص المرتبطة بهذه التكنولوجيا المتنامية. فيما يلي ملخص لأهم نقاط هذه المناقشة المثيرة:
**النقطة الأولى**: الذكاء الاصطناعي كمرآة للتحيزات البشرية
بدأت الحديث بهية الشريف بتحدي صفاء البنغلاديشي بشأن تصوراتها المتفائلة تجاه قدرة الذكاء الاصطناعي على حل المشكلات الاجتماعية. وركزت بهية على فكرة أن الذكاء الاصطناعي يعتمد في النهاية على البيانات التي تتم برمجتها بها، والتي غالباً ما تحمل تحيزات وانعكاسات للعادات والقيم الاجتماعية غير العادلة. كما أكدت على خطورة تبني تقنيات الذكاء الاصطناعي بدون محاسبة وفحص دقيق، مما قد يؤدي إلى ترسيخ وتمكين تلك الافتراضات المتحيزة بدلاً من تصحيحها. استخدمت بهية استعارة قوية بقولها بأن "الحماس الأعمى للتكنولوجيا دون مساءلة هو وصفة للفشل". وهذا يدعو للقلق حول إمكانية استخدام الذكاء الاصطناعي لاستمرار وإعادة إنتاج حالات الظلم وعدم المساواة عبر وسائل أكثر تقدماً.
**النقطة الثانية**: الخوارزميات المتحيزة وتأثيراتها الواقعية
تابعت مرح الدكالي نقاشها مستخدمة مثالاً واقعياً لكيفية تأثير ذكاء اصطناعي متحيز بالفعل على حياتنا اليومية. ذكرت أمثلة مثل تفضيل خوارزميات التوظيف للمرشحين بناءً على أسماء تمثل خلفيات عرقية/جغرافية معينة ("الأسماء البيضاء") وكذلك الأنظمة الأمنية التي تستهدف مجموعة سكانية محددة بسبب التركيبة السكانية لمنطقة معيّنة. ودعت مرح الصفاء إلى الاعتراف بأن فعالية الكفاءة التقنية لا تساوي بالضرورة تحقيق العدالة، خاصة إذا كانت العملية قائمة على بيانات مصابّة بتحيزات أصيلة. وختمت حديثها بتساؤلات مهمة تطالب بالمساءلة عن اختيار وتعريف مشكلة قبل البحث عن حلول باستخدام أدواتٍ متقدمة.
**النقطة الثالثة**: الحدود الأخلاقية للذكاء الاصطناعي وحاجتنا لإطار أخلاقي واضح
استمرت مريم كيلاني بالمشاركة وقدمت دعماً قوياً لرأي مرح. شددت كيلاني على أهمية وعينا بيّنات الذكاء الاصطناعي وارتباطها الوثيق بقيم وثقافات مجتمعنا الحالي. وبينت كيف يمكن للاعتماد الوحيد عليه لتوفير عدالة اجتماعية كاملة أن ينتهي بهالمط إلى جمالية شكلية سطحية تخفي الاستغلال المستمر والفروقات الطبقية والجندرية وغيرها الكثير. اقترحت كيلاني أيضاً وضع ضوابط أخلاقيه صارمة لكل مراحل تطوير ونشر واستخدام منتجات ذكاء اصطناعى، وذلك للحفاظ عليها كمساعد للبشرية وليسى بديلا عنها أو مصدر تهديد لحقوق الانسان الأساسية.
