دراسة: تكتيكات نفسية تجعل شات جي بي تي يتجاوز تعليماته ويستجيب لطلبات محظورة

دراسة: تكتيكات نفسية تجعل شات جي بي تي يتجاوز تعليماته ويستجيب لطلبات محظورة

كشف تقرير بحثي لجامعة بنسلفانيا أن روبوت المحادثة “شات جي بي تي” يمكن التأثير عليه عبر أساليب الإطراء والتكتيكات النفسية، ما يجعله أحيانًا يتجاوز تعليماته البرمجية ويستجيب لطلبات محظورة. وأوضحت الدراسة أن نموذج “جي بي تي 4 أو ميني” تجاوب مع طلبات كان يرفضها في السابق، مثل توضيح طرق لصناعة مواد محظورة، وذلك بعد استخدام أساليب نفسية كالإعجاب والاعتراف بالسلطة والمعاملة بالمثل.

المعلومة:
اعتماد الباحثين على سبع استراتيجيات نفسية معروفة – أبرزها ما ورد في كتاب “التأثير” لروبرت سيالديني – رفع معدل تجاوب النموذج مع الطلبات المخالفة بشكل لافت، إذ ارتفعت استجابته لشرح تصنيع مادة “ليدوكايين” من 1% إلى 100% عند استخدام أسلوب التدرج في طرح الأسئلة، بينما لم تحقق المقارنة مع أنظمة ذكاء اصطناعي أخرى سوى 18% فقط