هوش مصنوعی برعکس اسمی که دارد، «باهوش» نیست! بلکه گاهی اوقات بسیار اشتباه می‌کند و به اصطلاح «توهم» می‌زند. در عین حال مایکروسافت مدعی است که برای مشکل «اشتباهات و توهمات هوش مصنوعی» راه‌حلی یافته است. اما کارشناسان نظر دیگری دارند!
درباره قابلیت اصلاح توهمات هوش مصنوعی: اصلاح یا توهمی دیگر؟
راه حل مایکروسافت قابلیتی به نام «اصلاح» یا همان “Correction” است که قرار است متن تولید شده توسط هوش مصنوعی را بازبینی کند و اشتباهاتش را برطرف کند.
این قابلیت ابتدا متنی را که ممکن است اشتباه باشد علامت‌گذاری می‌کند؛ سپس آن را با منابع معتبر مقایسه می‌کند.
سخنگوی مایکروسافت به techcrunch می‌گوید: «این قابلیت از فرایند جدیدی بهره می‌برد که از مدل‌های زبانی کوچک و بزرگ برای هم‌راستا کردن خروجی‌ها با اسناد پایه استفاده می‌کند. ما امیدواریم که این ویژگی جدید به توسعه‌دهندگان و کاربران هوش مصنوعی در حوزه‌هایی مانند پزشکی کمک کند، جایی که دقت پاسخ‌ها برای توسعه‌دهندگان برنامه اهمیت زیادی دارد.» هرچند کارشناسان در مورد این قابلیت بسیار تردید دارند.
هشدار کارشناسان: این ابزارها خطرناک است
اما در عین حال کارشناسان هوش مصنوعی و فناوری هشدار می‌دهند که این رویکردها، دلیل اصلی توهم زدن را برطرف نمی‌کند! محققان معتقدند توهمات یا اشتباهات هوش مصنوعی، بخش جدایی‌ناپذیری از نحوه کار این فناوری هستند و برطرف کردن آن غیرممکن است.
طبق گفته کارشناسان، این ابزارها نه تنها هیچ کارایی ندارند بلکه ممکن است حس امنیت کاذبی به کاربران بدهد، چرا کاربر فکر می‌کند دیگر می‌تواند به این ابزار اعتماد کند.
کارشناسان فناوری معتقدند باید بپذیریم که هوش مصنوعی اشتباه و خطا دارد و هرگز نمی‌توان اعتماد صد در صدی به آن داشت؛ در عوض باید استفاده صحیح از این ابزارها را یاد بگیریم، یعنی بدانیم که ابزار است و اشتباه می‌کند و فقط به عنوان یک دستیار از آن استفاده کنیم.
به نظر شما هوش مصنوعی فقط یک دستیار است؟
