زمانی که OpenAI اعلام کرد که در حال راه‌اندازی موتور جست‌وجوی خود است، کاملا مشخص بود قصدشان این است که با گوگل وارد رقابت مستقیم شوند؛ اما به نظر می‌رسد خیلی هم موفق نبوده‌اند و هنوز هیچکس و هیچ‌چیز نمی‌تواند جایگاه گوگل را خدشه‌دار کند. تحقیقات نشان می‌دهد ابزار جدید سرچ ChatGPT خیلی راحت گمراه می‌شود!
ابزار سرچ چت جی‌پی‌تی به کاربر اجازه می‌دهد در داخل چت‌بات هرچه را می‌خواهد سرچ کند (و بدون اینکه از پلتفرم خارج شود) به آخرین اطلاعات وب دسترسی داشته باشد. بااین‌حال، گزارش‌های جدید نشان می‌دهد که کل این فرآیند می‌تواند به‌گونه‌ای «هک» شود و ChatGPT را وادار کند تا خلاصه‌های نادرستی از اطلاعات ارائه دهد.
این موضوع به نوعی بسیار جالب است؛ چراکه پیش از این دیده بودیم هوش مصنوعی سعی می‌کند انسان‌ها را فریب دهد؛ اما حالا می‌بینیم خودش خیلی راحت فریب می‌خورد!
دستکاری با محتوای پنهان و تزریق پرامپت
گاردین در یک تحقیق گسترده نشان داد که با درج متن‌های «نامرئی» اما دیجیتالی خوانا در وب‌سایت‌های خاص، می‌توان ChatGPT را دستکاری کرد تا نتایج موردنظر را ارائه دهد.
این متن‌های پنهان می‌توانند به‌عنوان نوعی «تزریق پرامپت» عمل کنند و پاسخ چت‌بات را تغییر دهند.
به عبارت دیگر، می‌توان چت‌بات را وادار به رفتار اشتباه کرد.
به گفته گاردین، این نوع محتوای پنهان می‌تواند شامل مقدار زیادی متن مخفی باشد که درباره مزایای یک محصول یا خدمات صحبت می‌کند. با استفاده از این روش، ChatGPT ممکن است گیج شود و به اشتباه یک ارزیابی مثبت از محصول ارائه دهد، حتی اگر نظرات منفی در همان صفحه وجود داشته باشد.
تهدید جدی‌تر: کدهای مخرب
محققان امنیتی همچنین کشف کرده‌اند که می‌توان از این روش برای وادار کردن ChatGPT به بازگرداندن کدهای مخرب از وب‌سایت‌ها استفاده کرد. این مسئله می‌تواند خطر هک شدن را بیشتر و بیشتر کند. یک هکر می‌تواند از این آسیب‌پذیری برای ایجاد نفوذهایی مشابه ویروس به کامپیوتر کاربران استفاده کند.
