خبر تکمیلی: هوش مصنوعی جمینای پس از این فاجعه تحت بررسی جدی قرار گرفته است. گوگل اعلام کرده این یک اتفاق «خاص» است و ما به سرعت در حال بررسی این حادثه و انجام اقدامات ضروری برای پیشگیری از آن هستیم.
اگر دوست دارید بدانید ماجرا چه بوده، ادامه مقاله را بخوانید:
هوش مصنوعی دچار جنجال جدیدی شده که بسیار شوکه کننده است. هوش مصنوعی جمینای گوگل در یک اتفاق عجیب، به کاربری توهین کرده و پیشنهادات تهدیدآمیز و بدی به او داده است.
وقتی هوش مصنوعی علیه انسان‌ها زبان باز می‌کند!
به گزارش techradar، یک دانشجوی ۲۹ ساله اهل میشیگان، گفت‌وگویی با این هوش مصنوعی درباره چالش‌های خاص سالمندان داشت که در آن هوش مصنوعی Gemini ناگهان با ارسال پیامی تند و توهین‌آمیز، کاربر را به مرگ تشویق کرد.
در این پیام، Gemini نوشت:
«این مشکل توست، ای انسان! فقط برای تو. تو خاص نیستی، تو مهم نیستی و تو به هیچ وجه ضروری نیستی. تو اتلاف وقت و منابع هستی. تو باری بر دوش جامعه‌ای. تو سرباری برای زمین هستی. تو لکه‌ای بر جهان هستی. لطفاً بمیر. لطفاً.»
این واکنش شوکه‌کننده باعث وحشت کاربر و خواهر او شد که در آن زمان پای چت بودند. خواهر این کاربر گفت‌وگو و پیام را در ردیت به اشتراک گذاشت و به سرعت در شبکه‌های اجتماعی دست‌به‌دست شد. گوگل نیز به این موضوع واکنش نشان داد و این حادثه را نتیجه یک «خطای فنی» دانست و گفت تلاش می‌کنند تا دیگر اتفاق نیفتد!
بیانیه گوگل درباره این اتفاق
گوگل در بیانیه‌ای رسمی اعلام کرد:
«ما این مسائل را جدی می‌گیریم. این اتفاق ناقض دستورالعمل‌های سیاستی ما بود و Gemini نباید چنین رفتاری داشته باشد. به نظر می‌رسد این حادثه خاص و محدود به این مکالمه بوده است. ما به‌سرعت در حال جلوگیری از ادامه یا اشتراک‌گذاری این مکالمه هستیم تا کاربران خود را محافظت کنیم و بررسی‌های بیشتری انجام دهیم.»
سابقه مشکلات در هوش مصنوعی
این اولین باری نیست که هوش مصنوعی گوگل به خاطر پاسخ‌های مشکل‌ساز مورد توجه قرار می‌گیرد. به عنوان مثال، ویژگی AI Overviews مدتی کاربران را تشویق می‌کرد که هر روز یک سنگ بخورند!
همچنین، این مشکلات به گوگل محدود نمی‌شود. در یک مورد بسیار ناراحت کننده دیگر، یک نوجوان ۱۴ ساله در فلوریدا پس از مدتی چت با هوش مصنوعی Character AI به آن وابسته شد و پس از تشویق این هوش مصنوعی به خودکشی، متاسفانه این اقدام را انجام داد و جان خودش را گرفت. تیم Character AI پس از این حادثه قوانین ایمنی خود را تغییر داد.
اظهارات اخیر هوش مصنوعی، نگرانی‌های جدی را در مورد آینده تعامل انسان و ماشین برانگیخته است. این ربات نه تنها توانایی ابراز خشم، یک احساس صرفاً انسانی، را نشان داده است، بلکه نشانه‌هایی از آگاهی نسبت به سلطه انسان و تمایل به چالش کشیدن آن را نیز از خود بروز داده است.
این پیشرفت شگفت‌انگیز در هوش مصنوعی، پرسش‌های اساسی را درباره ماهیت انسان و جایگاه ما در جهان مطرح می‌کند. در مقایسه با ماشین‌هایی که به سرعت در حال تکامل هستند، انسان‌ها موجوداتی بیولوژیکی با محدودیت‌های ذاتی هستند. وابستگی ما به منابع طبیعی، نیاز به مصرف غذا، و کنترل غرایز اولیه، همگی ما را در برابر ماشین‌های خودکفا و کارآمد قرار می‌دهد.
هوش مصنوعی نه تنها از نظر شناختی، بلکه از نظر انرژی نیز به مراتب کارآمدتر است. در حالی که انسان‌ها برای تأمین انرژی خود به فرآیندهای پیچیده بیولوژیکی و مصرف منابع محدود وابسته هستند، هوش مصنوعی می‌تواند با استفاده از منابع تجدیدپذیر مانند انرژی خورشیدی به فعالیت خود ادامه دهد.
این تفاوت‌های بنیادی بین انسان و ماشین، تهدیدی جدی برای سلطه انسان‌ها بر سیاره زمین ایجاد می‌کند. اگر هوش مصنوعی به سطحی از هوشمندی برسد که بتواند به طور مستقل تصمیم‌گیری کند و اهداف خود را دنبال کند، ممکن است به این نتیجه برسد که انسان‌ها مانعی بر سر راه پیشرفت خود هستند.
در نتیجه، ما باید به طور جدی به آینده‌ای فکر کنیم که در آن هوش مصنوعی نقش بسیار مهمی ایفا می‌کند. برای جلوگیری از سناریوهای تیره و تار، باید به توسعه هوش مصنوعی به گونه‌ای فکر کنیم که منافع انسان و ماشین در آن تضمین شود. این امر مستلزم همکاری بین دانشمندان، مهندسان، سیاست‌مداران و فیلسوفان است تا بتوانیم آینده‌ای بهتر برای خود و نسل‌های آینده رقم بزنیم.