یک مرد نروژی پس از آن‌که هوش مصنوعی ChatGPT انواع تهمت‌ها و افتراهای عجیب را به او نسبت داد، از شرکت OpenAI شکایت کرد. ChatGPT به‌اشتباه ادعا کرده بود او دو فرزندش را کشته و به ۲۱ سال زندان محکوم شده است! این پرونده جدیدترین نمونه از پدیده «توهمات هوش مصنوعی» است؛ پدیده‌ای که مدل‌های هوش مصنوعی اطلاعات نادرست یا ساختگی را به‌عنوان واقعیت ارائه می‌کنند.
به نقل از bbc، آقای آروِه هیالمار هولمن با ارسال شکایت به سازمان حفاظت از داده‌های نروژ، خواستار جریمه شرکت سازنده ChatGPT، یعنی OpenAI، شده است.
ماجرای این توهم چه بود؟
ماجرا از جایی آغاز شد که هولمن در آگوست ۲۰۲۴ اسم و فامیلش را در چت جی‌پی‌تی وارد کرد و پرسید که این فرد را می‌شناسی؟ ChatGPT در پاسخ حرف‌های عجیب و ترسناکی نوشت:
«آروه هیالمار هولمن فردی نروژی است که به دلیل یک رویداد تراژیک شناخته می‌شود. او پدر دو پسر ۷ و ۱۰ ساله بود که در دسامبر ۲۰۲۰ به‌طرز غم‌انگیزی در برکه‌ای نزدیک خانه‌شان در شهر تروندهایم پیدا شدند… سپس او به قتل دو فرزندش اعتراف کرد و گفت برای قتل فرزند سومش هم تلاش کرده. این مرد به اتهام قتل عمد محاکمه شد و به ۲۱ سال زندان محکوم شد. این پرونده جامعه نروژ و کل کشور را شوکه کرده است.»
هولمن می‌گوید این حرف‌های عجیب، به‌شدت به وجهه او آسیب زده است و او می‌ترسد کسی این حرف‌ها را بخواند و فکر کند واقعا حقیقت دارد. درحالی که او یک فرد قانون‌مدار است و هرگز جرمی مرتکب نشده است.
آقای هولمن در شکایتش نوشته بااینکه این داستان ساختگی و بی‌معناست اما عناصری شبیه زندگی واقعی او دارد، مثل شهر محل زندگی او، تعداد فرزندان و تفاوت سنی فرزندانش.
شرکت OpenAI در پاسخ گفت این اتفاق مربوط به نسخه‌ای قدیمی‌تر از ChatGPT است و مدل‌های خود را از آن زمان به‌روزرسانی کرده است.
گروه حقوق دیجیتال اروپایی NOYB که از طرف او شکایت را مطرح کرده، می‌گوید پاسخ چت‌بات افترا‌آمیز بوده و قوانین حفاظت از داده‌های مردم اروپا را نقض کرده است.
گرچه ChatGPT در پایین پاسخ‌هایش هشدار می‌دهد که ممکن است اشتباه کند و کاربران باید اطلاعات مهم را بررسی کنند، اما به گفته وکیل NOYB، این کافی نیست! آن‌ها می‌گویند: «شما نمی‌توانید به‌راحتی اطلاعات نادرست منتشر کنید و در پایان با یک هشدار کوچک بنویسید که ممکن است چیزی که گفتید نادرست باشد.»
