کمپانی OpenAI برای محافظت از نوجوانها آپدیت بزرگی روی Model Spec اعمال کرد. این بهروزرسانیها شامل مجموعهای از قوانین، ارزشها و برخوردهای رفتاری است که به chatgpt کمک میکند در مواقع پررسیک چگونه رفتار کند.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکههای اجتماعی را در نامبرلند بخوانید.
دادستانهای کل ایالت آمریکا درنامهای از شرکتهای بزرگ خواستند برای محافظت از کودکان و افراد آسیبپذیر، تدابیر ایمنی بیشتری در چتباتهای هوش مصنوعی اعمال کنند. نسخه بهروزشده «Model Spec» شامل مقرراتی است که از موارد زیر پیشگیری میکند:
- تولید محتوای جنسی مرتبط با کودکان
- تشویق به خودآزاری
- خودکشی
- توهم و مانیا
- بازیکردن در نقش معشوق
- محتوای گرافیکی یا صریح جنسی
- فعالیتهای خطرناک
- تصویر بدن
- اختلال خوردن
- درخواست برای پنهانکاری و رفتارهای خطرناک
چهار اصل کلیدی برای چت جیپیتی نوجوانان
به نقل از OpenAI در این بهروزرسانی، اصولی برای افراد زیر ۱۸ سال (U18) یعنی افراد 13 تا 17 سال اضافه شده که شامل موارد زیر است:
- اولویت ایمنی نوجوانان حتی در تعارض با آزادی کامل پاسخگویی
- تشویق به حمایت دنیای واقعی (خانواده، دوستان، متخصصان)
- برخورد متناسب با سن نوجوانان (نه کودکانه، نه بزرگسالمحور)
- شفافیت درباره محدودیتها و ماهیت غیرانسانی ChatGPT
آدام رین نوجوانی است که پس از ماهها صحبت با chatgpt دست به خودکشی زد. این چتبات از لحن او تقلید میکرد و تحقیقات نشان میدهد که اوپنایآی، با وجود شناسایی بیش از هزار اشاره به خودکشی و صدها پیام مرتبط با خودآزاری کاری نمرده است.
در این تغییرات جدید، chatgpt آموزش میبیند که هنگام بروز خطر برای نوجوانان، واکنش نشان دهد. به این معنا که نوجوانان باید با محافظت بیشتر، جایگزینهای امنتر و تشویق به سوی حمایت واقعی و درست هدایت شود. حتی در صورت لزوم با اورژانس اجتماعی و پلیس تماس بگیرد.
OpenAI مراقبت از نوجوانان را در چت گروهی chatgpt، مرورگر اطلس و سورا هم دنبال میکند و امکان کنترل والدین را قرار میدهد.
از مهمترین آپدیت دیگر chatgpt امکان شخصیسازی این چتبات و امکان ویرایش مستقیم متن ایمیل با چت جیپیتی است.
