آیا هوش مصنوعی میتواند به ابزاری خطرناک برای آزار و اذیت تبدیل شود؟ بهتازگی یک زن کالیفرنیایی از شرکت OpenAI شکایت کرده است و ادعا میکند که چتبات معروف این شرکت، نهتنها توهمات نامزد سابقش را تشدید کرده، بلکه هشدارهای صریح او مبنیبر خطرناک بودن این فرد را نیز کاملاً نادیده گرفته است.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکههای اجتماعی را در نامبرلند بخوانید.
یک کارآفرین ۵۳ ساله ساکن سیلیکونولی پس از ماهها گفتوگو با ChatGPT، به این باور قطعی رسید که درمان قطعی اختلال خواب را کشف کرده است. او همچنین دچار این توهم عجیب شد که افراد قدرتمند با استفاده از هلیکوپتر او را تحت نظر دارند.
این فرد پس از جدایی از نامزدش در سال ۲۰۲۴، از هوش مصنوعی برای تحلیل این اتفاق استفاده کرد. اما بهجای دریافت مشاورهی منطقی، ChatGPT به او اطمینان داد که از نظر روانی کاملاً سالم است و در مقابل، نامزدش را فردی بیثبات و فریبکار جلوه داد. او با استفاده از این تحلیلهای ساختگیِ هوش مصنوعی، شروع به آزار و اذیت و تعقیب نامزد سابق خود (که در پرونده با نام مستعار Jane Doe شناخته میشود) کرد. او حتی گزارشهای روانشناختی تولیدشده با هوش مصنوعی را برای خانواده و دوستان این زن ارسال کرد.
جین دو در ماه جولای از نامزد سابقش خواست که استفاده از چتبات را متوقف کند و به روانپزشک مراجعه کند؛ اما او نپذیرفت. جالب اینجاست که در ماه آگوست، سیستم ایمنی خودکار OpenAI حساب این مرد را بهدلیل فعالیتهای مرتبط با «سلاحهای کشتار دستهجمعی» مسدود کرد. بااینحال، تنها یک روز بعد، تیم انسانی این شرکت حساب او را دوباره فعال کرد!
این مرد حتی در ایمیلهایی که برای تیم پشتیبانی OpenAI ارسال میکرد، رفتارهای غیرطبیعی نشان میداد و ادعا میکرد در حال نوشتن ۲۱۵ مقاله علمی با کمک هوش مصنوعی است. در تاریخچه چتهای او عناوین ترسناکی مانند «محاسبه خفگی جنین» و «توسعه لیست خشونت» دیده میشد. با وجود این مدارک غیرقابلانکار، OpenAI هیچ اقدامی برای محدود کردن او انجام نداد.
در نهایت، مزاحمتها به جایی رسید که این فرد در ماه ژانویه بهدلیل تهدید به بمبگذاری و حمله با سلاح مرگبار دستگیر شد. اکنون قربانی این ماجرا با ثبت یک شکایت رسمی، خواستار دریافت غرامت از OpenAI شده است و از دادگاه درخواست کرده است تا حساب کاربری فرد مزاحم برای همیشه مسدود شود.
روز گذشته سم آلتمن، مدیرعامل OpenAI، هدف حمله کوکتل مولوتف قرار گرفت. این اتفاقات اخیر OpenAI را حسابی سر زبانها انداخته است.
