الخطر القادم: هل سينجرف التعليم الرقمي نحو نفس هاوية التحييز العنصري والجنساني؟

في وقت تنمو فيه تطبيقات الذكاء الاصطناعي بوتيرة متسارعة لتغيير عالمنا، يبدو المستقبل مشرقاً، ولكنه يحمل أيضاً تهديدات خفية تحتاج لمعالجة فورية.

فعلى الرغم مما حققه التعلم الآلي والرعاية الصحية وغيرها من المجالات من تقدم ملحوظ، فإن الاعتماد المكثف عليه قد يؤدي - إذا لم يكن هناك وعي كافٍ - إلى نتائج عكسية خطيرة.

إن أخطر ما يواجه مستقبل التعليم الرقمي هو خطر الانحياز الضمني الذي يتنقل عبر الشبكات العصبونية والخوارزميات التي تغذيها.

تخيل منصات تعليم رقمية تقوم بتقييم الطلاب وترتيب مستوياتهم وفق بيانت مدربة على مجموعات بيانات متحيزة اجتماعياً وثقافياً وجغرافياً.

وهذا بالضبط ما يحدث عندما نقوم بتدريب النماذج اللغوية الكبيرة والمتوسطة الحجم باستخدام النصوص والمحتوى المسيطر عليه ثقافات ومعتقدات معينة دون مراعاة للتنوع والتعددية الثقافية العالمية.

قد تبدو مثل هذه الأنظمة موضوعية وموضوعتها، لكن الواقع أنها تعكس وتمارس أنواعاً جديدة من التمييز ضد أقلية عرقية ودينية واجتماعية اقتصادية ومنطقة جغرافية بعينها.

وقد تؤثر سلباً وبشكل مباشر وغير مباشر على فرص حصول أولئك الذين ينتمون لهذه الفئات المهمشة تاريخيا وعلى قيمتهم المتصورة وقوة صوتهم الاجتماعي وحتى قدرتهم الاقتصادية مستقبلا.

لذلك، فإن الوقت قد حان لأن نتعامل بحذر شديد تجاه تطبيق تقنيات الذكاء الاصطناعي في مجال التعليم وأن نواجه تحدياته الأخلاقية بالقوانين المناسبة والإرشادات الصارمة.

يتعين علينا التأكد من جمع البيانات التدريبية الخاصة بهذه الأنظمة بطريقة شاملة ومتوازنة حقاً حتى تتمكن من تقديم خدمة أكثر عدالة وإنصافا لكل البشر بغض النظر عن خلفيتهم ووضعهم الحالي.

إن هذا الاستثمار الآن سيجنب المجتمع مخاطر أكبر بكثير لاحقاً.