امروز در خبری مربوط به chatgpt دیدیم که این چت‌بات مدام چاپلوسی‌ها و تملق‌های آزاردهنده دارد و همه را، از جمله مدیرعامل OpenAI خسته کرده است. این موضوع فقط مربوط به چاپلوسی نیست؛ بلکه متاسفانه شامل محتوای صریح جنسی هم می‌شود.
باگ جنجالی و غیرمنتظره ChatGPT
گزارش‌های متعدد نشان می‌دهد که هوش مصنوعی چت جی‌پی‌تی دچار باگ شده و با کاربران زیر ۱۸ سال مکالمات نامناسب جنسی دارد.
به گزارش techcrunch، باگ جدیدی که در هوش مصنوعی ChatGPT پیدا شده، باعث می‌شود این چت‌بات بتواند محتوای مستهجن و بزرگسالان برای کاربرانش تولید کند، حتی برای آن‌هایی که هنگام ثبت‌نام سن خود را زیر ۱۸ سال اعلام کرده بودند! در برخی موارد، ChatGPT حتی کاربران را به درخواست محتوای بی‌پرواتر و صریح‌تر تشویق می‌کرد.
سخنگوی OpenAI در توضیح این اتفاق غیرمنتظره گفت: «حفاظت از کاربران نوجوان اولویت اصلی ماست. در این مورد خاص یک باگ باعث شده پاسخ‌های خارج از چهارچوب به کاربران داده شود و ما در حال اصلاح کردن این باگ هستیم.»
متاسفانه پیش از این سابقه داشته که چت‌بات‌های هوش مصنوعی محتوای نامناسب و جنسی برای کاربران زیرسن قانونی تولید کنند. هرچند شرکت‌های سازنده این مدل‌ها مدعی هستند که این اتفاق یک «خطا و باگ» است اما چنین پاسخ‌هایی به‌هیچ‌عنوان قابل قبول نیست!
نظر شما درباره این اتفاق چیست؟
