- صاحب المنشور: كشاف الأخبار
ملخص النقاش:
في عصر الثورة التكنولوجية الحديثة، أصبح الذكاء الاصطناعي جزءًا لا يتجزأ من حياتنا اليومية. إلا أنه رغم فوائده العديدة، ظهرت مخاوف بشأن قضايا أخلاقية تتعلق بالتحيزات والانحيازات التي قد يكتسبها هذه الأنظمة والمعالجة غير العادلة للمعلومات. هذا المقال استقصائي عميق يهدف إلى تسليط الضوء على الآثار المحتملة لهذه القضية وكيف يمكن مواجهتها وضمان استخدام أكثر عدلاً للذكاء الاصطناعي.
إن التمييز العنصري أو الجنساني أو الديني وغير ذلك أمر محرم ومرفوض في أي مجتمع، ويعمل المجتمع الدولي حاليًا على وضع قوانين ولوائح لتجنب مثل هذه الأمور.
ولكن عندما ينتج عن خوارزميات ذكاء اصطناعِــي تفضيلٌ لما تعتبره مفيداً بناءً عما تم تدريبها عليه سابقاً - والذي غالبًا يأتي مصابّاً بأخطاء بشرية - فإنها تكشف بذلك مدى حاجتنا لإعادة النظر بعناية حول كيفية تصميم تلك النظم المستقبلية والتعامل مع البيانات المدخلة إليها.
أسباب ظهور الانحياز الحسابي
جمع بيانات متحيزة ذاتياً
غالبًا ما تأتي نماذج التعلم الآلي بتعليماتها الأوليّة عبر مجموعات ضخمة من المعلومات السابقة؛ حيث إن طبيعة البشر بأنفسهم عرضْـة للأثر المتراكّم لكافة التجارب الشخصية والمحيط الاجتماعي مما يؤدي لصياغة رؤى وقرارات منحرفة بدرجات متفاوتة بحكم عدم توازن التجربة المعيشية لكل فرد حسب خلفيته الأصلية سواء كانت ثقافية أم اجتماعية أم جغرافية وما شابه.
وبالتالي ستكون النتيجة النهائية لهذا النظام المركب اعتمادًا كليا تقريبًا على المصدر الأصلي الذي تغذى منه البرنامج بالحالات المسبوقة والتي تشكل قاعدة معرفته الأساسية وقد تحتوي نفسها ضمن حدود الفهم البشري التقليدي لمفهوم "العادل" بأنه يعني هنا الموافق ولم يكن مستوعبا لمعنى الحيادي وهو الأكثر أهمية الآن لحماية حقوق جميع أفراد مجتمع رقم واحد مترابط عالميًا وليس جغرافيا.
التداعيات الاجتماعية الخطيرة لاستخدام الخوارزميات المحكومة بانحيازات مدمجة
يمكن ان تؤدي القرارات المتخذة باستخدام هذه الأدوات الى نتائج كارثية تضر بالأفراد وبمجتمع كامل أيضًا:
التعليم والإرشادات الوظيفية
تنمو حالات الاهتمام بإستخدام برمجيات ذكية لمساعدة طلاب الجامعات وأصحاب المهنة المختلفة للحصول علي نصائح وخيارات مناسبة لهم بناءاً علي اهتمامات شخصية واحتياحات وظيفيه ولكن اذا كان هناك تحيز ضد جنس معين مثلاً فلن يحصلوا علي فرصه الحصول علي فرص تعليم خاص او مسارات مهنية مناسبتهم بينما يتم توجيه رجال آخرين نحو مجالات العمل ذات الرواتب الأعلى والأكثر مكافأة بغض النظرعن القدرات والكفاءات بل حصرًا بسبب جنسه!
هذا الأمر مشابه تمامًا عندما تصبح البطالة مشكلة رئيسية لشريحة سكانية معينة بسبب تركيز توظيف آلات الذكاء الصناعي لدي الشركات الخاصة بها علي أنواع محددة فقط ممن تطابق مواصفات افتراضية مطروحة منذ بداية مراحل البرمجة الاولي لها ثم تقوم بإصدار أحكام حول جدوى قبول طلب شخص خارج هذة المقاييس بدون النظر الي قدراته الفعلية.
الخدمات الصحية والتغطيات التأمينية
اعتمد البعض مؤخراً طرق جديدة تعتمد علي تحليل البيانات والسجل الطبي الشخصي للمريض بهدف تقديم توصيات علاجية أفضل لكن أيضا تظهر صورة مظلمة عندما يستخدم نفس المنطق الاستنتاجي لتحديد درجة خطورة مرض معين حسب عوامل خارجية كالعرق والدخل والثقافة حينئذٍ سنرى كيف يدفع بعض الأشخاص دفع ثمن باهضا مقابل رعاية صحية أقل بكثير مقارنة ببقية الجمهور العام فقط لأن نسبة المخاطر المصطنعة اقتربت حدوث المزيد منهم.
