گوگل با معرفی هوش مصنوعی در نتایج جستوجو (AI Overviews) قصد داشت کار ما را راحت کند، اما آمارهای جدید نشان میدهد که این ابزار هر ساعت میلیونها اطلاعات غلط و توهمزده را به خورد کاربران میدهد.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکههای اجتماعی را در نامبرلند بخوانید.
براساس گزارش رسانهها، بررسیهای اخیر روی سیستم پاسخدهی هوش مصنوعی گوگل نتایج نگرانکنندهای داشته است. با وجود اینکه دقت این ابزار حدود ۹۰ درصد اعلام شده است، اما وقتی پای تریلیونها جستوجو در سال وسط باشد، آن ۱۰ درصد خطا به یک فاجعه آماری تبدیل میشود.
طبق تحلیلهای انجام شده، کاربران ممکن است در هر ساعت با بیش از ۵۷ میلیون پاسخ نادرست روبهرو شوند؛ یعنی چیزی حدود ۱ میلیون پاسخ اشتباه در هر دقیقه!
آمارهای تکاندهنده از دقت جمینای در جستوجو
استارتاپ هوش مصنوعی Oumi با بررسی بیش از ۴ هزار جستوجوی گوگل متوجه شده است که نسخه دوم جمینای (Gemini 2) در مهرماه دقتی ۸۵ درصدی داشته و این عدد در نسخه سوم به ۹۱ درصد رسیده است. اگرچه این یک پیشرفت محسوب میشود، اما مشکل اصلی جای دیگری است.
گوگل گاهی برای یک سوال ثابت در فواصل زمانی کوتاه، پاسخهای کاملاً متفاوتی میدهد. جالب است بدانید که خودِ سخنگوی گوگل هم به نقصهایی در این آزمایشها اشاره کرده و معتقد است که در دنیای واقعی، جمینای وقتی مستقل از موتور جستوجو عمل میکند، در ۲۸ درصد مواقع دچار «توهم» میشود و اطلاعاتی را از خودش میسازد که اصلاً وجود خارجی ندارند.
تضاد عجیب بین متن هوش مصنوعی و منابع معرفی شده
یکی دیگر از چالشهای بزرگ، منابعی است که گوگل زیر پاسخهای هوش مصنوعی قرار میدهد. بررسیها نشان داده است که در بسیاری از موارد، لینکی که گوگل به عنوان منبع معرفی کرده، اصلاً حرفهای هوش مصنوعی را تایید نمیکند!
حتی گاهی پیش میآید که هوش مصنوعی یک پاسخ اشتباه میدهد، اما در لینک زیر آن، اطلاعات درست نوشته شده است.
این تضاد بین پاسخ کوتاه هوش مصنوعی و منبع اصلی، بعد از آپدیت نسخه سوم جمینای بدتر هم شده و از ۳۷ درصد به ۵۶ درصد رسیده است. این یعنی در بیش از نیمی از موارد، نمیتوان به منابعی که هوش مصنوعی گوگل معرفی میکند اعتماد کامل داشت.
در حال حاضر گوگل در تلاش است تا با بهروزرسانیهای مداوم، این میزان خطا را کاهش دهد، اما تا آن زمان باید با احتیاط بیشتری به پاسخهای آماده هوش مصنوعی در سرچ گوگل اعتماد کنیم.
در خبر دیگری خوانده بودیم که عبارت «کوپایلت فقط برای سرگرمی است» اعتماد کاربران به این هوش مصنوعی را متزلزل کرده و مایکروسافت برای آن توجیه میآورد.
