چه بپذیریم چه نه، توهمات هوش مصنوعی وجود دارند و آمارشان هم بالا است. گزارش‌ها نشان می‌دهد فقط ChatGPT روزانه ۲۵۰،۰۰۰ بار توهم می‌زند و اشتباه می‌کند؛ اما توهم هوش مصنوعی دقیقا به چه معناست؟
توهمات هوش مصنوعی به مواردی اطلاق می‌شود که هوش مصنوعی به پرسش‌های کاربران، پاسخ‌هایی نادرست، بی‌ربط یا حتی کاملاً ساختگی می‌دهد.
این توهمات برای دو وکیل نیویورکی بسیار هزینه‌بر بود. آن‌ها از ChatGPT برای نوشتن متن دفاعیه استفاده کرده بودند و چت جی‌پی‌تی به آن‌ها پرونده‌هایی را معرفی کرده بود که اصلا وجود نداشت! این دو وکیل در نهایت به علت استناد به پرونده‌های ساختگی جریمه شدند!
به گفته techradar، علت اصلی توهمات هوش مصنوعی، کمبود داده‌های کافی برای آموزش و فرایند ارزیابی نامناسب مدل‌ها است. همچنین نباید فراموش کنیم که هوش مصنوعی از خودش عقل ندارد و نمی‌تواند چیزی را تشخیص دهد.
بنابراین هنوز بهترین راه برای پیشگیری از خطر توهمات هوش مصنوعی این است که هر پاسخ آن را (به‌خصوص درمورد موضوعات حساس) با داده‌های معتبر مقایسه کنیم.
به‌تازگی هم دیده بودیم که هوش مصنوعی چینی‌ها فکر می‌کند ChatGPT است!
درباره قابلیت اصلاح توهمات هوش مصنوعی: اصلاح یا توهمی دیگر؟
مایکروسافت مدعی است که برای مشکل «اشتباهات و توهمات هوش مصنوعی» راه‌حلی یافته است؛ اما کارشناسان نظر دیگری دارند!
راه‌حل مایکروسافت قابلیتی به نام «اصلاح» یا همان «Correction» است که قرار است متن تولیدشده توسط هوش مصنوعی را بازبینی کند و اشتباهاتش را برطرف کند.
این قابلیت ابتدا متنی را که ممکن است اشتباه باشد، علامت‌گذاری می‌کند؛ سپس آن را با منابع معتبر مقایسه می‌کند.
سخنگوی مایکروسافت به techcrunch می‌گوید: «این قابلیت از فرایند جدیدی بهره می‌برد که از مدل‌های زبانی کوچک و بزرگ برای هم‌راستا کردن خروجی‌ها با اسناد پایه استفاده می‌کند. ما امیدواریم که این ویژگی جدید به توسعه‌دهندگان و کاربران هوش مصنوعی در حوزه‌هایی مانند پزشکی کمک کند؛ جایی که دقت پاسخ‌ها برای توسعه‌دهندگان برنامه اهمیت زیادی دارد.» هرچند کارشناسان درمورد این قابلیت بسیار تردید دارند.
هشدار کارشناسان: این ابزارها خطرناک است
اما در عین حال کارشناسان هوش مصنوعی و فناوری هشدار می‌دهند که این رویکردها دلیل اصلی توهم زدن را برطرف نمی‌کند! محققان معتقدند توهمات یا اشتباهات هوش مصنوعی، بخش جدایی‌ناپذیری از نحوه کار این فناوری هستند و برطرف کردن آن غیرممکن است.
طبق گفته کارشناسان، این ابزارها نه‌تنها هیچ کارایی ندارند؛ بلکه ممکن است حس امنیت کاذبی به کاربران بدهد؛ چراکه کاربر فکر می‌کند دیگر می‌تواند به این ابزار اعتماد کند.
کارشناسان فناوری معتقدند باید بپذیریم که هوش مصنوعی اشتباه و خطا دارد و هرگز نمی‌توان اعتماد ۱۰۰درصدی به آن داشت؛ در عوض باید استفاده صحیح از این ابزارها را یاد بگیریم، یعنی بدانیم که ابزار است و اشتباه می‌کند و فقط به‌عنوان یک دستیار از آن استفاده کنیم.
به نظر شما هوش مصنوعی فقط یک دستیار است؟
پستای خوب و مفیدی قرار میدید ممنونم
سلام دوست عزیز
از همراهی شما ممنونیم