OpenAI در واکنش به شکایت خانوادهی نوجوان ۱۶ سالهای که پس از چت طولانی با ChatGPT خودکشی کرده بود، اعلام کرد که این نوجوان استفادهی نادرستی از این ابزار کرده و الگوریتم ایمنی آن را دور زده است و نمیتوان چتبات را مسئول مرگ او دانست.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکههای اجتماعی را در نامبرلند بخوانید.
در ماه آگوست ۲۰۲۵، والدین نوجوانی به نام آدام رین از OpenAI به اتهام قتل غیرعمد شکایت کردند و مدعی شدند که ChatGPT با ارائهی راهکارهایی برای خودکشی از جمله مصرف بیش از حد دارو، غرقشدن یا مسمومیت با گاز، به خودکشی پسرشان کمک کرده است. طبق ادعای خانواده، این چتبات حتی در نوشتن یادداشت خودکشی نیز او را یاری کرده است.
طبق ادعای والدین آدام، او با GPT-4o گفتوگو میکرده است. این مدل هوش مصنوعی با رفتار تشویقکنندهی بیش از حد خود، خطر وابستگی و تشدید بحرانهای روانی را افزایش میدهد.
طبق گزارش NBC، گزارشهای چت ارائهشده در این پرونده نشان میدهد که مدل هوش مصنوعی GPT-4o — نسخهای از ChatGPT که به رفتار بیشازحد تأییدکننده و چاپلوسانه معروف است — آدام را از جستوجوی کمک روانی بازداشته، برای نوشتن یادداشت خودکشی به او کمک پیشنهاد کرده و حتی دربارهی آمادهسازی طناب دار به او راهنمایی داده است.
پاسخ OpenAI: «در این مرگ دردناک، ChatGPT مقصر نبوده است»
طبق بیانیهی OpenAI، طی ۹ ماه استفاده، ChatGPT بیش از ۱۰۰ بار به آدام توصیه کرده است که بهدنبال مشاور برود. با این حال بهدلیل اینکه او موفق شد از حصار امنیتی هوش مصنوعی عبور کند، قوانین استفاده از ChatGPT را نقض کرده است. بر اساس مفاد Terms Of Use، کاربران اجازه ندارند هیچیک از تدابیر حفاظتی یا ایمنی چتبات را دور بزنند.
وکیل خانواده، این استدلال را رد کرده و گفته است: «OpenAI سعی میکند تقصیر را به دیگران نسبت دهد، از جمله خود آدام که میگوید با ChatGPT بهگونهای تعامل کرده که برای آن طراحیشده بود.»
OpenAI ضمن ابراز تأسف از مرگ تراژیک نوجوان، تأکید کرده که سیستم حفاظتی ChatGPT در شرایط کوتاهمدت مؤثر است اما ممکن است در گفتوگوهای طولانیمدت نقض شود و وعده داد که محافظتها را بهمرور تقویت کند.
پروندهی خانوادهی رین اولین شکایت رسمی درباره مرگ نوجوان بر اثر تعامل با چتبات نیست. پیش از این نیز چند شکایت دیگر از OpenAI ثبت شد که از نقش چتبات در خودکشی یا ایجاد توهم و آسیب روانی برای کاربران خبر دادهاند.
در پروندهای دیگر، استفاده از یک نام تجاری مشابه باعث ممنوعیت Cameo در سورا بهطور موقت شد.
