آیا شما هم با خود فکر کرده‌اید که نوشتن متن با هوش مصنوعی در عین اینکه مزایای خاص خودش را دارد، باعث مشکلات زیادی هم شده؟ مثلا دانش آموزان و دانشجویانی که پروژه‌های درسی خود را به چت جی‌پی‌تی می‌سپارند یا اینکه همه کارهای نویسندگی، حالا ماشینی شده است؟ خب به نقل از وال استریت ژورنال، احتمالا چاره این مشکلات، پیدا شده است!
یک ابزار خاص برای تشخیص متون نوشته شده با هوش مصنوعی
OpenAI در حال کار روی ابزاری است که می‌تواند مچ دانش آموزان و دانشجویانی که پروژه‌های درسی خود را به ChatGPT می‌سپارند را بگیرد! این ابزار به متن‌هایی که ChatGPT تولید کرده، واترمارک می‌زند.
تعبیه الگوهای پنهان در متن تولید شده با هوش مصنوعی، به سیستم‌های تشخیص متن اجازه می‌دهد که بفهمند متن توسط LLM تولید شده یا نه.
در نتیجه متونی که با هوش مصنوعی ChatGPT تولید شوند، خیلی راحت تشخیص داده می‌شوند. هدف ابزار تشخیص متون نوشته شده با ChatGPT ، این است که متون ماشینی (تولید شده توسط هوش مصنوعی) راحت از متون انسانی تشخیص داده شوند و جلوی تقلب و تنبلی گرفته شود. اما اینکار چالش‌هایی هم دارد و ساده نیست.
چرا تا به حال ابزار تشخیص متون تولید شده با هوش مصنوعی، ایجاد نشده؟
OpenAI قبلا در یک نظرسنجی عمومی از کاربرانش، به این نتیجه رسیده بود که مردم از وجود چنین ابزاری حمایت می‌کنند، اما در همان نظرسنجی متوجه شدند که اگر چنین ابزاری ایجاد شود، تعداد قابل توجهی از کاربرانشان استفاده از ChatGPT را کنار می‌گذارند.
بنابراین اینجا یک چالش بیزینسی هم وجود دارد که به ضرر شرکت تمام می‌شود!
از طرفی این ابزار فقط برای تشخیص متونی که ChatGPT نوشته، استفاده می‌شود، اما چت بات‌های هوش مصنوعی دیگری هم وجود دارند که متن می‌نویسند و هیچ ابزاری برای تشخیصش وجود ندارد! پس عرضه چنین ابزاری از OpenAI هم خیلی موثر نیست و هم یک ضعف رقابتی بزرگ خواهد بود!
در خبرهای دیگر مربوط به این کمپانی خوانده بودیم که چند ناشر بزرگ آمریکایی موتور جستجوی SearchGPT را مسدود کرده‌اند.
