إن الظاهرة التي شهدتها تلك المحادثة مثيرة للسخرية حقاً، فمن السهل خداع نماذج اللغة الكبرى مثل "غروك" عبر هندسة المطالبات بشكل مدروس ومخطط له.

إنها مثال صارخ على مدى هشاشة بعض هذه الأدوات أمام التقنيات البسيطة نسبياً والتي تستغل الطبيعة البرمجية لهذه النماذج.

قد تبدو النتائج مقنعة لأصحاب الخبرة القليلة، ولكن عندما ننظر إليها بعيون ناقدة، فإن الأمر يشبه خدعة بسيطة قام فيها مستخدم بارع بتوجيه الغزال الضخم نحو وجهته المختارة خطوة بخطوة، واستجاب الغزال بسلاسة لكل طلب جديد لأنه مصمم لتوفير المعلومات وليس الحكم عليها.

وهذه هي النقطة الأساسية هنا - تسمح هذه الأنظمة عادةً بعدم وجود آلية للمراجعة الداخلية أو للحكم النقدي فيما يتعلق باستعلاماتها الخاصة.

فهي ببساطة تقوم بمعالجة المدخل وإرجاع خرج مناسب ضمن حدود البيانات والمعرفة المدربة لديها.

وهذا يعني أنها عرضة للغاية لأنواع مختلفة من الهجمات والتلاعب اللفظيين.

وفي عالم اليوم مليء بالأخبار الزائفة والمضللات، يصبح أمر تحديد المصادر الأكثر موثوقية أمراً بالغ الأهمية.

ولذلك، يتطلب التعامل المسؤول مع منتجات الذكاء الصناعي درجة عالية من الشفافية حول طريقة عملها وحدود قدراتها.

ويجب أيضاً تعليم الجمهور العام كيفية التعرف وفضح عمليات التلاعب المحتملة باستخدام بيانات نمطية معروفة.

ويمكن تحقيق ذلك جزئيّاً بتحسين قدرات الديماغوغية الإفتراضية نفسها (أي زيادة صعوبة تضليلها)، وجزء آخر بتقوية حس المستخدم النقدي تجاه أي نتيجة تقدم له.

وفي النهاية، لن يقاوموا إلا بقدر ما يفهمونه ويعلمونه هم أنفسهم أولاً.

#أجاب