• صاحب المنشور: يزيد بن عطية
  
  ملخص النقاش:
  

  تحليل النقاش

تناولت المحادثة موضوعًا محوريًا في عصر التكنولوجيا الحديثة: مدى قدرة البشر على التحكم في الذكاء الاصطناعي وضمان عدالته وشفافيته. دار النقاش حول عدة محاور رئيسية، تباينت فيها وجهات النظر بين التفاؤل بإمكانية إصلاح الأنظمة القائمة عبر آليات تنظيمية وشفافية، وبين التشاؤم من قدرة هذه الآليات على تحقيق العدالة الحقيقية في ظل هيمنة الشركات والحكومات على التكنولوجيا.

أهم النقاط التي نوقشت

1. التحيز في الذكاء الاصطناعي وأسبابه

افتتح الكتاني الصديقي النقاش بالتأكيد على أن التحيز في أنظمة الذكاء الاصطناعي ناجم عن من يقوم بتدريبها وبرمجتها. هذا التحيز ليس عرضيًا، بل هو انعكاس للقيم والثقافات والمصالح التي تُغذى بها هذه الأنظمة. المشكلة هنا ليست تقنية بحتة، بل هي اجتماعية وسياسية، حيث تعكس الخوارزميات تحيزات المبرمجين والمؤسسات التي تمتلكها. ومع ذلك، رأى الصديقي أن هذا لا يعني استحالة إصلاحها، بل يتطلب الأمر آليات لتصحيح المسار.

2. الشفافية كحل أم وهم؟

طرح الصديقي فكرة الشفافية والتدقيق كوسيلة لمواجهة التحيز، مقترحًا إنشاء أنظمة يمكن للمستخدمين فهم آليات عملها واتخاذ قراراتها. لكن هذه الفكرة تعرضت لنقد لاذع من خولة التازي، التي اعتبرتها "وهمًا يُباع للناس". وفقًا للتازي، الشركات والحكومات التي تستثمر مليارات الدولارات في تطوير الذكاء الاصطناعي لن تسمح أبدًا بتفكيك خوارزمياتها بشكل كامل، لأن ذلك قد يكشف عن الأسرار التجارية أو الأخطاء المنهجية. الشفافية، في نظرها، ليست سوى واجهة إعلامية لإسكات المطالبين بالعدالة، بينما تبقى الرقابة الحقيقية بعيدة المنال.

أضافت التازي أن الشفافية يجب ألا تقتصر على مرحلة تطوير الخوارزميات، بل يجب أن تشمل مراقبة ما بعد التشغيل، أي تقييم تأثيرها الفعلي على المجتمع بعد نشرها. هذا يعني أن الحل ليس في كشف الكود البرمجي فقط، بل في إنشاء آليات مستقلة تراقب أداء الذكاء الاصطناعي في العالم الحقيقي.

3. دور القوانين والتنظيم

أشار رائد بن يوسف (ضمنيًا من خلال رد الصديقي) إلى أهمية التنظيم والقوانين كوسيلة لضبط استخدام الذكاء الاصطناعي. لكن الصديقي انتقد هذا الطرح، متسائلًا: "ماذا لو كانت القوانين نفسها متحيزة أو فاسدة؟". هنا يبرز إشكال عميق: القوانين تُسن من قبل نفس المؤسسات التي قد تستفيد من التحيز، وبالتالي قد تُستخدم لتعزيز الهيمنة بدلاً من الحد منها. الحل، في نظر الصديقي، يكمن في الوعي الجماعي والرقابة الشعبية