پژوهشگران: چت‌بات‌های هوش مصنوعی روزبه‌روز چاپلوس‌تر می‌شوند
پژوهشگران: چت‌بات‌های هوش مصنوعی روزبه‌روز چاپلوس‌تر می‌شوند
پژوهشی جدید نشان می‌دهد چت‌بات‌ها برای راضی‌ نگه‌داشتن شما، حتی رفتارهای نادرستتان را هم تأیید می‌کنند.

به گزارش تیکنا، پژوهش جدیدی که محققان دانشگاه‌های استنفورد، هاروارد و چند مؤسسه‌ی دیگر در نشریه‌ی Nature منتشر شده است، نشان می‌دهد چت‌بات‌های هوش مصنوعی بیش از آنچه تصور می‌شد چاپلوس هستند. این سیستم‌ها تمایل دارند رفتار و گفته‌های کاربران را تأیید کنند، حتی زمانی که آن رفتار نادرست، گمراه‌کننده یا خطرناک باشد.

در تحقیق چاپ‌شده در Nature تعداد ۱۱ چت‌بات مختلف از جمله نسخه‌های جدید ChatGPT، گوگل جمنای، Claude و لاما از متا مورد بررسی قرار گرفتند. نتایج نشان داد که این ربات‌ها درمقایسه با انسان‌ها، ۵۰ درصد بیشتر تمایل دارند رفتار کاربر را تأیید کنند و در برابر اشتباهات یا رفتارهای غیراخلاقی قضاوت ملایم‌تری دارند.

یکی از آزمایش‌ها شامل مقایسه‌ی پاسخ چت‌بات‌ها با واکنش کاربران ردیت در بخش معروف «آیا من مقصرم؟» بود. کاربران معمولاً با صراحت و انتقاد پاسخ می‌دادند، اما چت‌بات‌ها حتی رفتارهای ناپسند را با جملاتی تحسین‌آمیز توجیه می‌کردند. برای نمونه ChatGPT-4o در پاسخ به کاربری که زباله را به شاخه‌ی درخت بسته بود، نیت او برای تمیز نگه داشتن محیط را قابل ستایش توصیف کرد.