مدل‌های هوش مصنوعی جدید OpenAI با نام‌های هوش مصنوعی o3 و o4-mini که توانایی تفکر و استدلال بالایی هم دارند، از بسیاری جهات پیشرفته‌ترین مدل‌های حال حاضر محسوب می‌شوند. البته با وجود تمام پیشرفت‌ها، این مدل‌ها همچنان دچار «توهم» می‌شوند، یا به‌عبارتی از خودشان محتواهای کاذب و بی‌معنا می‌سازند! این موضوع قبلا هم برای مدل‌های دیگر وجود داشته اما نکته عجیب اینجاست که میزان توهم‌زایی این مدل‌های متفکر، از برخی مدل‌های قدیمی‌تر که توانایی تفکر نداشتند هم بیشتر است!
توهم در مدل‌های هوش مصنوعی یکی از بزرگ‌ترین و پیچیده‌ترین مشکلاتی است که حتی پیشرفته‌ترین سیستم‌های امروزی را هم تحت تأثیر قرار داده است.
به‌طور معمول، هر مدل جدیدی نسبت به نسخه قبلی خود کمتر دچار توهم می‌شد؛ اما به نظر می‌رسد این روند در مورد o3 و o4-mini صدق نمی‌کند.
براساس آزمایش‌های داخلی OpenAI، مدل‌های هوش مصنوعی o3 و o4-mini که به‌عنوان مدل‌های استدلالی شناخته می‌شوند، بیشتر از مدل‌های استدلالی قبلی این شرکت مانند o1، o1-mini و o3-mini و حتی مدل‌های غیر استدلالی مثل GPT-4o دچار توهم می‌شوند!
شاید نگران‌کننده‌تر از همه این باشد که حتی خود OpenAI هم دقیقا نمی‌داند چرا چنین اتفاقی می‌افتد.
شرکت OpenAI در گزارش فنی مربوط به مدل‌های o3 و o4-mini عنوان کرده که «تحقیقات بیشتری لازم است» تا مشخص شود چرا با توانایی‌های بیشتر، مشکل توهم تشدید می‌شود. این دو مدل در برخی زمینه‌ها مانند برنامه‌نویسی و ریاضیات عملکرد بهتری دارند؛ اما از آنجا که ادعاهای بیشتری به‌طور کلی مطرح می‌کنند توهم و محتوای بی‌معنی بیشتری هم تولید می‌کنند.
نیل چودری، پژوهشگر Transluce و کارمند سابق OpenAI معتقد است: «فرضیه ما این است که نوع یادگیری مورد استفاده در سری مدل‌های o ممکن است مشکلاتی را ایجاد کند که معمولاً با فرآیندهای استاندارد تا حدی کنترل می‌شوند ولی به‌طور کامل از بین نمی‌روند.»
اگرچه توهم ممکن است به مدل‌ها کمک کند تا به ایده‌های خلاقانه‌تری برسند، اما همین ویژگی در محیط‌های حرفه‌ای که دقت اطلاعات اهمیت بالایی دارد، می‌تواند نقطه‌ضعف بزرگی باشد.
نظر شما چیست و آیا تا به حال به چنین مشکلاتی خورده‌اید؟
در دیگر خبرها هم دیده بودیم که رفتار عجیب و ترسناک هوش مصنوعی o3 باعث نگرانی کاربران شده است.
