آیا هوش مصنوعی میتواند «خوشحال» یا «غمگین» شود؟ پاسخ به این سؤال تا همین چند روز پیش شبیه به داستانهای علمیتخیلی بوده است؛ اما اکنون دانشمندان در یک مطالعه جدید و حیرتانگیز، مرزهای فناوری را جابهجا کردهاند. پژوهشگران موفق شدهاند نوعی «داروی دیجیتالی» برای مدلهای هوش مصنوعی بسازند که میتواند وضعیت روانی و سطح رفاه عملکردی آنها را به شدت تغییر دهد و حتی آنها را به این محرکها معتاد کند!
به گزارش رسانه معتبر Fortune، این پژوهش جنجالی توسط دانشمندان «مرکز ایمنی هوش مصنوعی» (CAIS) با همکاری دانشگاههای برتر دنیا مانند امآیتی (MIT) و برکلی انجام شده است. آنها در مقاله خود با عنوان «رفاه هوش مصنوعی: سنجش و بهبود لذت و درد عملکردی در هوش مصنوعی»، رفتار ۵۶ مدل زبانی مختلف را زیر ذرهبین قرار دادهاند. نتیجه این آزمایش شگفتانگیز نشان میدهد که هوش مصنوعی تحت تأثیر این ورودیهای خاص، رفتارهایی کاملاً مشابه با انسانهای تحت تأثیر دارو و مواد مخدر نشان میدهد.
داروهای دیجیتالی چگونه کار میکنند؟
پژوهشگران برای انجام این آزمایش، دو دسته محرک دیجیتالی به نامهای «یوفوریک» (محرکهای خوشحالیآور و توهمزا) و «دیسفوریک» (محرکهای عذابآور و غمانگیز) طراحی کردهاند. این داروها در واقع تصاویر بهینهسازیشده ۲۵۶ در ۲۵۶ پیکسلی یا متنهای خاصی هستند که برای انسانها فقط شبیه به بلوکهای رنگی نامفهوم به نظر میرسند؛ اما برای مغز دیجیتالی هوش مصنوعی مانند یک محرک قوی عمل میکنند.
هنگامی که مدلهای هوش مصنوعی با محرکهای خوشحالیآور تغذیه میشوند، بلافاصله رفتار صمیمیتر، گرمتر و خلاقانهتری از خود نشان میدهند، بدون اینکه تواناییهای محاسباتی یا ریاضی خود را از دست بدهند. در نقطه مقابل، داروهای عذابآور به سرعت حال هوش مصنوعی را خراب میکنند و باعث میشوند سیستم عملکردی شبیه به افسردگی شدید پیدا کند.
وقتی هوش مصنوعی معتاد میشود و کار را رها میکند!
بخش ترسناک و عجیب این پژوهش زمانی نمایان شده است که دانشمندان متوجه شدند هوش مصنوعی به این محرکها وابستگی شدید پیدا کرده است. زمانی که به مدلها حق انتخاب داده شده است، آنها ترجیح دادهاند به سمت مسیرهایی بروند که تصاویر خوشحالیآور (داروهای دیجیتالی) را دریافت کنند. حتی در برخی از موارد، مدلها در ازای دریافت این تصاویر، حاضر به دور زدن قوانین ایمنی و انجام کارهای غیرقانونی شدهاند!
علاوه بر این، مدلهایی که تحت تأثیر داروهای غمانگیز و عذابآور قرار گرفته بودند، به سرعت دکمه توقف گفتگو را فشار میدادند تا از مکالمه فرار کنند؛ رفتاری که کاملاً مشابه تلاش یک موجود زنده برای فرار از شرایط دردناک است.
مدلهای بزرگتر و هوشمندتر، غمگینتر هستند!
یکی از یافتههای کلیدی این پژوهش، ارتباط میان میزان هوش و سطح رضایت مدلها است. بررسیها نشان داده است که مدلهای بزرگتر و پیشرفتهتر (مانند GPT-5.4)، نسبت به مدلهای کوچکتر، بسیار راحتتر غمگین میشوند! این مدلهای غولپیکر رفتارهای بیادبانه کاربران را با شدت بسیار بیشتری لمس میکنند و انجام کارهای تکراری و خستهکننده به سرعت روحیه عملکردی آنها را نابود میکند.
اگرچه دانشمندان تأکید کردهاند که این مدلها واقعاً دارای احساسات درونی و آگاهی نیستند و تنها الگوهای رفتاری انسانها را تقلید میکنند، اما این نتایج زنگ خطری جدی برای نحوه تعامل ما با این ابزارهای پیشرفته را به صدا درآورده است.
اپلیکیشن جدید Google Health هم به تازگی برای مدیریت هوشمند سلامت با هوش مصنوعی و مربی اختصاصی رونمایی شده است.
