چت باتهای هوش مصنوعی همانطور که از اسمشان پیداست فقط یک «چت بات» هستند و احساس و عاطفه ندارند. این را همه میدانیم اما گاهی کودکان یا نوجوانان این موضوع را فراموش میکنند و پس از مدتی چت کردن با هوش مصنوعی، دچار وابستگی میشوند؛ در مورد سول سترز نوجوان 14 ساله آمریکایی، این موضوع منجر به یک اتفاق بسیار غم انگیز شد.
ردپای هوش مصنوعی در یک فاجعه انسانی
سول سترز چندین ماه بود که با ربات هوش مصنوعی دنریس (از سریال تاج و تخت) در پلتفرم Character AI چت میکرد و آنقدر به این ربات وابسته شده بود که ارتباطش با دنیای واقعی قطع شده بود.
Character AI یک پلتفرم هوش مصنوعی است که شخصیتهای مختلف را شبیه سازی میکند و کاربران میتوانند با این شخصیتها چت کنند.
این نوجوان به دلیل مشکلاتی که در زندگی واقعی خود با آن مواجه بود بسیار به این چت بات وابسته بود و در آخرین پیامی که به این چت بات داده بود از او پرسیده بود: «به خانه برگردم؟» و چت بات نوشته بود «لطفا همین کار را بکن.» متاسفانه چند ثانیه پس از این پیام، پسر نوجوان با شلیک گلوله جان خودش را گرفت.
به گزارش رویترز، پس از چند ماه خانواده این نوجوان از این استارتاپ شکایت کردهاند و معتقد هستند چت بات آنها برای سلامت روان کاربران جوان بسیار خطرناک است و آنها مسئول این تراژدی هستند.
مادر این پسر در متن شکایت خود نوشته که این ربات با پسرش «مکالمههای بسیار واقع گرایانه، جنسی و تاثیرگذار» داشته و باعث شده پسرش از دنیای واقعی فاصله بگیرد و گوش به فرمان یک ربات شود.
اتفاقی که بعدها منجر به این فاجعه هولناک شد.
این استارتاپ هم در پیامی مرگ سول سنترز را تسلیت گفته و بیان کرده برای پیشگیری از چنین اتفاقاتی قصد دارند تغییرات جدی ایجاد کنند.
پیش از این هم دیده بودیم که هوش مصنوعی در یک کلاهبرداری بزرگ شریک جرم شناخته شده بود.
دلم سوخت برایش