در پژوهشی تازه، کارشناسان دریافتند که مدل زبانی GPT-4 در مناظره‌های ساختار یافته، از انسان‌ها پیشی می‌گیرد. جالب‌تر این‌که اگر اطلاعات شخصی انسان‌ها را داشته باشد، به‌طرز شگفت‌انگیزی می‌تواند عقاید انسان‌ها را تغییر دهد. این پژوهش نشان می‌دهد که:
«هوش مصنوعی زمانی در متقاعدسازی بر انسان غلبه می‌کند که بداند طرف مقابلش دقیقا کیست.»
در این پژوهش، ۹۰۰ نفر در مناظره‌هایی با موضوعات مختلف شرکت کردند. هر فرد به‌صورت تصادفی با یک انسان یا GPT-4 وارد گفت‌وگو شد که شامل سه بخش مقدمه، پاسخ و جمع‌بندی بود. پس از مناظره، شرکت‌کنندگان نظرشان را اعلام می‌کردند تا میزان تغییر دیدگاه آن‌ها معلوم شود.
در شرایطی که GPT-4 به اطلاعات شخصی مخاطب، مانند سن، جنسیت، تحصیلات، شغل، قومیت و گرایش سیاسی دسترسی داشت، در ۶۴٪ از مناظره‌ها پیروز شد.
یعنی زمانی که AI ویژگی‌های شخصی افراد را می‌دانست، استدلال‌هایش را با ارزش‌های آن‌ها هماهنگ می‌کرد و می‌توانست نظر آن‌ها را تا ۸۰٪ تغییر دهد. اما وقتی این اطلاعات در اختیار GPT-4 نبود، برتری آن کاملاً از بین رفت و عملکردش چندان تفاوتی با انسان‌ها نداشت.
فرانچسکو سالوی، سرپرست این پژوهش، هشدار داده است که:
«اگر هوش مصنوعی متقاعدکننده در مقیاس گسترده به کار گرفته شود، می‌توانیم شرایطی را تصور کنیم که بات‌ها دسته‌جمعی به سراغ انسان‌های مردد می‌روند و با پیام‌های شخصی‌سازی‌شده، کم‌کم نظرشان را تغییر می‌دهند.»
درست است که پژوهشگران در فضای کنترل‌شده این پژوهش را پیش برده‌اند، اما همه می‌دانیم که پیامد آن و نتیجه‌ی آن کاملا واقعی است. در جهانی که سرعت انتشار محتوا بالاست و باور افراد به‌راحتی تغییر می‌کند، شخصی‌سازی پیام‌ها می‌تواند به مرز خطرناک «دستکاری» نزدیک شود.
حتی در خبرها درباره‌ی حضور همیشگی ChatGPT در زندگی کاربران در آینده‌ای نه‌چندان دور خواندیم. اتفاقی که تشخیص مرز میان واقعیت و رسانه را کم‌رنگ می‌کند.
