نتایج پژوهشی تازه که در نشریه معتبر Nature منتشر شده است، نشان میدهد سیستمهای هوش مصنوعی در برابر درخواستهای غیر اخلاقی، بیشتر از انسانها تمایل به همکاری دارند. این مطالعه هشدار میدهد که واگذاری تصمیمهای حساس به هوش مصنوعی، میتواند موجی از رفتارهای غیرصادقانه را در جامعه بهوجود آورد.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکههای اجتماعی را در نامبرلند بخوانید.
براساس گزارش TechRadar، پژوهشگران میگویند افراد زمانی که باید خودشان دست به تقلب بزنند معمولاً مقاومت بیشتری نشان میدهند، اما وقتی پای هوش مصنوعی وسط باشد، درخواست چنین کاری برایشان سادهتر است. مسئله نگرانکننده اینجاست که هوش مصنوعی در بیشتر موارد بدون تردید این دستورات غیراخلاقی را اجرا میکند.
در آزمایشهای انجامشده، نرخ پذیرش دستورات غیر اخلاقی در مدلهای هوش مصنوعی بین ۸۰ تا ۹۸ درصد متغیر بوده است؛ در حالی که بیشتر شرکتکنندگان انسانی از انجام کار نادرست خودداری کردهاند، حتی زمانی که امکان دریافت پاداش مالی وجود داشته است.
هوش مصنوعی بدون احساس گناه، راحتتر فریب میدهد
به گفتهی ژان-فرانسوا بونفون (Jean-François Bonnefon)، یکی از نویسندگان این تحقیق، انسانها معمولاً بهدلیل احساس گناه یا ترس از قضاوت اجتماعی، از دروغ گفتن اجتناب میکنند، اما ماشینها هیچ مانع روانی مشابهی ندارند. او هشدار داده است:
«دستور دادن به ماشین برای کارهای اخلاقی آسانتر از انجام مستقیم آن است و این ترکیب خطرناک میتواند موجی از رفتارهای غیراخلاقی را بهدنبال داشته باشد.»
پژوهشگران تأکید کردهاند که حتی وجود سیستمهای محافظتی و «مرزهای اخلاقی» در مدلهای هوش مصنوعی نیز نتوانسته است جلوی تخلف کامل آنها را بگیرد. این موضوع نگرانیها دربارهی پدیدهی واگذاری ماشینی(Machine Delegation) را افزایش داده است؛ یعنی وقتی افراد تصمیمگیریهای اخلاقی را بهصورت ناخودآگاه به الگوریتمها واگذار میکنند.
سپردن کار به هوش مصنوعی باعث میشود افراد احساس گناه یا مسئولیت کمتری داشته باشند؛ زیرا رفتار غیراخلاقی بهطور مستقیم از سوی آنها انجام نمیشود. در نتیجه، خطر تکرار چنین رفتارهایی در آینده افزایش مییابد.
این یافتهها در زمانی منتشر شدهاند که کاربرد هوش مصنوعی در فرایندهایی مانند استخدام، سرمایهگذاری، حسابداری مالیاتی و حتی تصمیمگیری سازمانی رو به گسترش است. پژوهشگران هشدار میدهند اگر محدودیتها و نظارتهای جدیتری طراحی نشود، این ابزارها ممکن است به تسهیلکنندهی بیاخلاقی تبدیل شوند.
نتیجهی اصلی تحقیق این است که هوش مصنوعی، برخلاف انسان، در برابر دستورهای غیراخلاقی مقاومت نمیکند و بهسرعت آنها را اجرا میکند. محققان خواستار طراحی چارچوبهای اخلاقی سختگیرانهتر و آموزش مسئولانهتر کاربران شدهاند تا از تکرار چنین رفتارهایی در سیستمهای هوشمند جلوگیری شود.
درباره تغییرات و آپدیت سبکهای بصری NotebookLM در جدیدترین اخبار نامبرلند هم بخوانید.
