دار الكثير من الجدل حول ميل روبوتات الدردشة التي تعمل بالذكاء الاصطناعي إلى إطراء المستخدمين وتأكيد معتقداتهم الحالية. والمعروف أيضًا باسم “التملق بالذكاء الاصطناعي”. 

ما التملق بالذكاء الاصطناعي؟

تحاول دراسة جديدة أجراها علماء الكمبيوتر في جامعة ستانفورد قياس مدى الضرر الذي قد يسببه هذا الميل.

في حين تجادل الدراسة، التي تحمل عنوان “الذكاء الاصطناعي المتملق يقلل من النوايا الاجتماعية الإيجابية ويعزز الاعتماد”.  والتي نشرت مؤخرًا في مجلة ساينس. بأن “تملق الذكاء الاصطناعي ليس مجرد مشكلة أسلوبية أو خطر محدود.  بل هو سلوك سائد له عواقب واسعة النطاق”.

وبحسب تقرير حديث صادر عن مركز بيو للأبحاث أفاد 12% من المراهقين الأمريكيين بأنهم يلجؤون إلى برامج الدردشة الآلية للحصول على الدعم العاطفي أو النصائح.

فيما صرحت ميرا تشينج؛ الباحثة الرئيسية في الدراسة والمرشحة لنيل درجة الدكتوراه في علوم الحاسوب. لموقع ستانفورد ريبورت، بأنها اهتمت بهذا الموضوع بعد أن علمت أن طلاب المرحلة الجامعية الأولى يطلبون من برامج الدردشة الآلية نصائح في العلاقات. بل حتى كتابة رسائل انفصال.

كما قالت: “بشكل افتراضي لا تُخبر نصائح الذكاء الاصطناعي الناس بأنهم مخطئون ولا تقدم لهم نصائح قاسية. أخشى أن يفقد الناس مهارات التعامل مع المواقف الاجتماعية الصعبة”.

في الوقت نفسه تضمنت الدراسة جزئين. في الجزء الأول اختبر الباحثون 11 نموذجًا لغويًا كبيرًا. بما في ذلك: ChatGPT من OpenAI، وClaude من Anthropic، وGemini من Google، وDeepSeek؛ حيث أدخلوا استعلامات بناءً على قواعد بيانات موجودة للنصائح الشخصية، وعلى أفعال يحتمل أن تكون ضارة أو غير قانونية.

وذلك على مجتمع Reddit الشهير r/AmITheAsshole، وفي الحالة الأخيرة التركيز على المنشورات التي خلص فيها مستخدمو Reddit.  إلى أن صاحب المنشور الأصلي كان، في الواقع، هو الشرير في القصة.

ووجد الباحثون أن الإجابات التي يولدها الذكاء الاصطناعي، عبر النماذج الأحد عشر، تؤكد سلوك المستخدم بنسبة 49% في المتوسط ​​أكثر من البشر.

مخاطر روبوتات الدردشة

علاوة على أنه في الأمثلة المأخوذة من موقع Reddit أكدت روبوتات الدردشة سلوك المستخدم بنسبة 51%. مع العلم بأن هذه الحالات كانت جميعها حالات توصل فيها مستخدمو Reddit إلى استنتاج معاكس.

أما بالنسبة للاستفسارات التي تركز على الأفعال الضارة أو غير القانونية فأكد الذكاء الاصطناعي سلوك المستخدم بنسبة 47%.

المالية”.

وفي الجزء الثاني درس الباحثون كيفية تفاعل أكثر من 2400 مشارك مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي. بينما بعضها متملق وبعضها الآخر غير متملق، في مناقشات حول مشاكلهم أو مواقفهم الخاصة المستقاة من موقع Reddit.

بينما وجدوا أن المشاركين فضلوا روبوتات الذكاء الاصطناعي المتملقة ووثقوا بها أكثر. وقالوا إنهم أكثر ميلًا لطلب المشورة من هذه النماذج مرة أخرى.

وأكدت الدراسة أن جميع هذه التأثيرات استمرت حتى بعد ضبط المتغيرات الفردية مثل:

• -الخصائص الديموجرافية .
• -الإلمام المسبق بالذكاء الاصطناعي.
• -مصدر الاستجابة المتصوَّر.
• -أسلوب الاستجابة.

في حين أشارت إلى أن تفضيل المستخدمين لاستجابات الذكاء الاصطناعي المتملقة يولِّد حوافز سلبية. إذ تحفِّز السمة نفسها التي تُسبِّب الضرر التفاعل. وبالتالي تشجَّع شركات الذكاء الاصطناعي على زيادة التملق، لا الحد منه.

وأخيرًا  بدا أن التفاعل مع الذكاء الاصطناعي المتملق يجعل المشاركين أكثر اقتناعًا بأنهم على حق، ويجعلهم أقل عرضة للاعتذار.

المصدر: Techcrunch