مطالعه‌ای جدید نشان می‌دهد که موتورهای جستجوی مبتنی‌بر هوش مصنوعی به طور نگران‌کننده‌ای در حدود ۶۰ درصد از منابع خود را اشتباه ذکر می‌کنند و اطلاعات نادرست به کاربران می‌دهند!
یک بحران حل‌نشدنی و بزرگ: خطاهای زیاد هوش مصنوعی
موتورهای جست‌وجوی مبتنی‌بر هوش مصنوعی مدتی است که بسیار پرطرف‌دار شده‌اند. نحوه کار این مدل‌ها به این شکل است که محتوای وب‌سایت‌ها را استخراج می‌کنند تا بتوانند پاسخ‌هایی به کاربران خود بدهند. این موضوع غیر از همه مشکلاتی که برای وب‌سایت‌ها ایجاد می‌کند، یک مشکل بسیار بزرگ دیگر دارند: این موتورهای جستجو ارجاع‌های ساختگی و اشتباه به کاربران می‌دهند!
بیش از نیمی از پاسخ‌های Gemini و Grok 3 به ارجاع‌های جعلی یا URL های خراب اشاره کردند که به صفحات خطا منتهی شد.
همچنین به نقل از cjr، چت‌بات‌ها به بیش از ۶۰ درصد از پرسش‌ها پاسخ‌های نادرست دادند!
اوضاع هوش مصنوعی Grok 3 از همه بدتر بود، این چت‌بات به ۹۴ درصد از پرسش‌ها پاسخ نادرست داد. شاید فکر کنید Perplexity از بقیه بهتر باشد و پاسخ‌های درستی داده؛ اما حتی این مدل هم به ۳۷ درصد پرسش‌ها پاسخ اشتباه داد.
شگفت‌آور این بود که نسخه‌های پریمیوم این ابزارهای جستجوی هوش مصنوعی در برخی جنبه‌ها حتی بدتر عمل کردند. Perplexity Pro و هوش مصنوعی Grok 3 بیشتر از نسخه‌های رایگان خود پاسخ‌های اشتباه را با اعتماد به نفس بیشتری ارائه دادند.
سال گذشته هم چنین مطالعه‌ای انجام شده بود و پاسخ‌های مدل‌های هوش مصنوعی مورد راستی‌آزمایی قرار گرفتند؛ جالب اینکه هنوز پس از گذشت یک سال تغییر مثبتی رخ نداده و همان مشکلات وجود دارد.
مدل‌های هوش مصنوعی با اطمینان، اطلاعات نادرست ارائه می‌دهند و انتساب‌های گمراه‌کننده با ارجاع‌های ساختگی دارند.
این موضوع نگرانی‌های جدی درباره استفاده از مدل‌های زبان بزرگ برای جستجو ایجاد کرده و پژوهشگران این مطالعه نتیجه‌گیری کردند که این ابزارها شفافیت و توانایی تصمیم‌گیری کاربر را از بین می‌برند، مشکلات مرتبط با سوگیری در سیستم‌های دسترسی به اطلاعات را تشدید می‌کنند و اغلب پاسخ‌های بی‌پایه و اشتباه می‌دهند که ممکن است توسط کاربران معمولی نادیده گرفته شود.
پیش از این هم در خبرها دیدیم که هوش مصنوعی هم مثل ما به عشق و محبت نیاز دارد!
