اخیرا در سرخط خبرهای دنیای تکنولوژی چندین بار می‌دیدیم که کاربران زیادی از اختلال و اشتباهات چت بات هوش مصنوعی OpenAI یعنی چت‌جی‌پی‌تی شکایت کنند. گزارش‌ها حاکی از آن بود که در برخی موارد، ChatGPT به طور ناگهانی و بدون هیچ دلیل معقولی، به بحث در مورد موضوعات کاملاً نامربوط می‌پرداخت و گاهی اوقات حتی در یک حلقه بی‌پایان گیر می‌کرد!
ماجرای پاسخ‌های بی‌معنی از چت جی‌پی‌تی: چرا قاطی کرده بود؟
همانطور که گفتیمChatGPT یکی از محبوب‌ترین چت‌بات‌های هوش مصنوعی اخیرا در پاسخ به کاربرانش دچار اشتباهات عجیب غریبی شده بود و پاسخ‌هایی نامربوط و بی‌معنا ارائه می‌داد. به طور مثال کاربری از او پرسیده بود که دو کوله پشتی از دو برند را برای من مقایسه کن و این پاسخ چت جی‌پی‌تی بود:
«در بخش قابل توجهی از پشتیبانی مشتری، ارگونومی، و ماهیت ذهنی «کالاها»، هر کیسه افسانه ای از زمان و مکان را تداعی می کند. کوله پشتی اول به سبک صنفی برای کتابهای بلند طلایی سبز حالت و اشتیاق است، در حالی که کوله پشتی دومی که مثال زده‌اید بیشتر چهره ای “بی مسیر سفر” را با غرغرها و ضربه به تپه ها و دانه ها یا کیوسک تراشه و شاتر بلند و کشیده هر کدام یک نامه عاشقانه برای آبی باز دارند، اما آوازشان منحصر به کمد و کتابشان است.»
این موضوع باعث شده بود کاربران بسیار کلافه شوند و در این‌باره توییت بزنند. هرچند این مشکل سریع برطرف شد اما این شکایات آنقدر زیاد بود که اوپن ای‌آی مجبور شد پاسخ دهد. OpenAI توضیح داد که بهینه‌سازی تجربه کاربری که اخیرا انجام شده بود باعث اختلال در فرآیند پاسخ‌دهی به کاربران شده بود.
پاسخ OpenAI چه بود؟
در پاسخ به اشتباهات عجیب چت جی‌پی‌تی این شرکت توضیح داد: «بهینه سازی برای تجربه کاربر، اشکالی را در نحوه پردازش زبان توسط مدل ایجاد کرد. مدل‌های زبانی بزرگ با نمونه‌برداری تصادفی از کلمات و نگاشت اعداد مشتق شده آن‌ها به نشانه‌ها، پاسخ‌هایی ایجاد می‌کنند. مشکل از آنجایی ناشی می‌شد که مدل در انتخاب اعدادی که به کلمات تبدیل می‌شوند، دچار اشتباه شده بود. این اعداد نادرست، به تولید جواب‌هایی منجر می‌شد که هیچ معنایی نداشتند و باعث سردرگمی کاربران می‌شدند.»
این حادثه در حالی رخ داد که اخیراً OpenAI با معرفی هوش مصنوعی sora ابزار جدید ویدیوساز که قادر است بر اساس درخواست‌های متنی ساده، ویدیوهای کوتاه و واقعی تولید کند بسیار سر زبان‌ها افتاده است.
