شرکت هوش مصنوعی ایلان ماسک، xAI، بهعلت تصاویر برهنهای که چتبات گراک در ایکس از تصاویر افراد ساخته است، هدف واکنشهای منفی کاربران قرار گرفته است. گراک حتی در تصاویر کودکان هم استثنا قائل نمیشود.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکههای اجتماعی را در نامبرلند بخوانید.
بهگزارش CNBC، بهدنبال این مسئله، گراک در پاسخ به یک کاربر گفته این مشکل فورا رفع خواهد شد وتولید محتوای حاوی سوءاستفادهی جنسی از کودکان غیر قانونی و ممنوع است.
نگرانیها از آنجا شروع شد که با افزودهشدن قابلیت ویرایش تصویر به گراک، کاربران میتوانند بدون اینکه به رضایت منتشرکنندهی تصویر نیاز باشد، تصاویر را ویرایش کنند؛ آن هم فقط با یک پرامپت متنی.
یکی از مسئولان xAI گفته مسئله در حال بررسی است و مقامات دولتی کشورهای مختلف دربارهی آن بیانیه صادر کردهاند.
ماجرا چیست؟
در روزهای اخیر شبکهی اجتماعی X پر از تصاویری شده که گراک ویرایش کرده است که خبرسازترین آن، حذف لباس افراد و جایگزینی آن با لباس زیر بوده است. کاربران با یک پرامپت متنی تصاویر افراد عادی شامل زنان (غالبا)، کودکان و شخصیتهای سیاسی را توسط گراک دستکاری کردهاند!
اتفاق اخیر روشن کرده است که گراک موانع و پادمانهای بسیار کمی دربرابر هر چیزی بهجز برهنگی کامل و صریح دارد.
گراک قبل از این هم میتوانست تصاویر را با مضامین جنسی دستکاری کند؛ ولی ابزار جدید Edit Image محبوبیت ناگهانی و بسیار زیادی کسب کرده است. سروصدای این قابلیت وقتی بلند شد که گراک این کار را با تصویر دو دختر خردسال انجام داد که البته پس از چند ساعت حذف شد.
محصولات هوش مصنوعی ایلان ماسک عنوان آزاد و دارای حداقل محدودیتها را یدک میکشند؛ ولی دامنهی این آزادی تا کجا میتواند ادامه داشته باشد؟
دیوید تیل، پژوهشگر اعتماد و ایمنی به CNBC گفته است قوانین آمریکا تولید و توزیع برخی تصاویر جنسی و صریح را از جمله تصاویر افراد زیر سن قانونی و تصاویر صمیمی بدون رضایت را ممنوع میکنند. او پیشنهاد کرده است که در اولین اقدام گراک باید امکان ویرایش تصاویر آپلودشده توسط کاربران را حذف کند.
تولید تصاویر برهنه و نیمهبرهنهی کاربران توسط گراک در حالی انجام میشود که پلتفرمهای دیگر مثل Sora و Veo محافظهایی برای جلوگیری از تولید محتوای جنسی و نامناسب دارند.
به نظر شما آیا ماجرای اخیر باعث میشود برای گراک محدودیتهایی اعمال شود؟
در خبر دیگری دربارهی این چتبات خوانده بودیم که کاربران Grok Imagine با بهروزرسانی اخیر میتوانند قبل از گرفتن خروجی، نسبت تصویر را بهطور دقیق انتخاب کنند.
