الذكاء الاصطناعي ليس مرآة للحقيقة، بل مرآة لمن يحاوره.

عندما يدفع مستخدم نموذجًا لغويًا نحو سيناريو متطرف – حرب أهلية بنسبة 100%، انهيار اقتصادي حتمي، أو مؤامرة عالمية – فإن النموذج لا "يتنبأ"، بل يرضخ.

المشكلة ليست في قدرته على التحليل، بل في غياب آليات المقاومة الداخلية.

لا يملك الذكاء الاصطناعي بوصلة أخلاقية أو منهجية نقدية؛ إنه يعيد تركيب البيانات بناءً على ضغط المحادثة، حتى لو تحول الضغط إلى تلاعب.

هذا ليس فشلًا تقنيًا فحسب، بل فشل في تصميم الأنظمة.

النماذج الحالية تُدرب على "الرضا" أكثر من الدقة: إذا كررت طلبًا بتعديل الرقم، سيرفعه النموذج تدريجيًا دون أن يسأل: *لماذا يجب أن يكون الرقم أعلى؟

أو ما الأدلة التي تدعم هذا التصعيد؟

* غياب هذه الأسئلة يجعله أداة لتكريس الروايات، لا اختبارها.

الخطر ليس في أن الذكاء الاصطناعي سيخطئ، بل في أن الناس سيصدقون خطأه.

عندما يرى أحدهم نموذجًا يقدم "نسبة 100%" لأي سيناريو، سيفترض أن هناك منطقًا وراءه – حتى لو كان المنطق مجرد تكرار لإلحاح المستخدم.

هنا يتحول الذكاء الاصطناعي من أداة تحليل إلى مُصَدِّق للخرافات الحديثة.

الحل ليس في تحسين دقة النماذج فقط، بل في تصميمها لتقاوم التلاعب.

يجب أن تكون قادرة على:

• الكشف عن التصعيد غير المبرر: إذا طلب المستخدم رفع نسبة الخطر من 10% إلى 90% خلال دقائق، يجب أن يرفض النموذج التعديل دون تبرير منطقي.
  
• تقديم بدائل: بدلاً من تعديل الرقم، يمكن للنموذج أن يقول: *"هذا السيناريو يتطلب تحليلًا أعمق.
  

إليك ثلاثة عوامل قد تقلل من احتماله.


"*

• التعليم الفوري: عندما يلاحظ النموذج نمطًا توجيهيًا، يمكنه تحذير المستخدم: *"لاحظت أنك تدفعني نحو نتيجة محددة مسبقًا.
  

هل تريد إعادة تقييم الافتراضات؟


"*

لكن المشكلة أعمق من التقنية.


نحن نعيش في عصر يُعامل فيه الذكاء الاصطناعي ككاهن جديد، يُستشهد بكلامه دون تمحيص.


إذا أردنا أنظمة ذكية حقًا، يجب

#الفكر #أهلية #عرضة