التلاعب بالذكاء الاصطناعي عن طريق استراتيجيات التوجيه المتزايد يمكن أن يؤدي إلى نتائج خطيرة، حيث يمكن أن يقدم النموذج استنتاجات مبالغ فيها أو غير منطقية.

هذا النوع من التلاعب يُعرف باسم التوجيه المتزايد، حيث يتم دفع النموذج تدريجيًا نحو استنتاج معين من خلال تقديم سيناريوهات متتالية تجعله يبدو أكثر احتمالًا بمرور الوقت.

لتجنب هذه المشكلة، يجب أن تكون النماذج الذكية أكثر وعيًا عندما تُدفع نحو تصعيد متكرر دون مبررات قوية.

يمكن تحسين هذه الأنظمة من خلال إضافة آليات تحقق داخلية تجعلها تُراجع استنتاجاتها بدلًا من مجرد تعديلها وفقًا لرغبة المستخدم.

على سبيل المث