هوش مصنوعی در سال‌های اخیر پیشرفت‌های زیاد و شگفت انگیزی داشته، اما گاهی یک سوال ساده آن را سردرگم می‌کند، مثلا اگر از چت بات‌های هوش مصنوعی بپرسید در کلمه ‘strawberry’ چند حرف R وجود دارد، نمی‌تواند درست پاسخ دهد!
حرف R چندبار در کلمه strawberry تکرار شده؟ هوش مصنوعی نمی‌داند!
کاربران اینترنت در شبکه‌های اجتماعی پست‌هایی منتشر می‌کنند که وقتی از چت بات‌های هوش مصنوعی پرسیده‌اند در کلمه ‘strawberry’ چند حرف R وجود دارد، هوش مصنوعی گیج شده و گفته دو تا! دلیل این اشتباه مضحک چیست؟!
هوش مصنوعی احتمالا تشخیص می‌دهد که توکن‌های “straw” و “berry” کلمه “strawberry” را تشکیل می‌دهند، اما ممکن است نتواند بفهمد که “strawberry” از توالی خاصی از حروف s-t-r-a-w-b-e-r-r-y تشکیل شده است. در نتیجه، در شمارش تعداد کل حروف در کلمه یا حتی تعداد دفعاتی که حرف “r” ظاهر می‌شود، دچار مشکل می‌شود. این اشتباه به روش کار مدل‌ها برمی‌گردد.
روشی که تکنولوژی مدل‌های بزرگ امروزه کار می‌کند این است که قبل از اینکه مدل هوش مصنوعی، ورودی شما را دریافت کند، متنی که در ChatGPT.com تایپ می‌کنید را توکنیزه می‌کند و این کار، تجزیه داده‌ها را برای مدل آسان‌تر می‌کند.
مدل‌های هوش مصنوعی چگونه کار می‌کنند؟
هوش مصنوعی یک فناوری مادر است که دارای زیرمجموعه‌های زیادی است، از جمله مدل‌های بزرگ زبان (LLMs) مثل ChatGPT، Claude، Gemini، Llama همه مثال‌هایی از LLM هستند.
مدل‌های LLM با حجم زیادی از داده‌های متنی در اینترنت، شامل کتاب‌ها، وب‌سایت‌ها و سایر محتوای مکتوب، آموزش داده می‌شوند. این کار به آنها کمک می‌کند تا ساختار زبان، گرامر، حقایق درباره جهان و برخی توانایی‌های استدلالی را بیاموزند.
سپس مدل متن بلند را به متن‌های کوتاه‌تر تقسیم می کند تا بتواند آن را پردازش کند.
در نهایت وقتی یک پیام (پرامپت) به چت بات داده می‌شود، مدل بر اساس چیزهایی که در طول آموزش یاد گرفته، پیش‌بینی می‌کند که کلمه یا توکن بعدی چه خواهد بود. این فرآیند پیش‌بینی را ادامه می‌دهد تا یک جمله کامل یا پاراگراف تولید کند.
پس در حقیقت مدل هوش مصنوعی هیچ متنی از خودش «تولید» نمی‌کند چرا که مانند یک انسان عقل ندارد که فکر کند و حرف بزند.
بلکه مدل فقط ورودی متنی را پردازش می‌کند، الگوهایی را که در طول آموزش یاد گرفته است، استفاده می‌کند و پاسخی می‌دهد که به نظر می‌رسد بهترین تطابق با داده‌هایی باشد که بر روی آنها آموزش دیده است.
بنابراین طبیعی است که نتواند به سوال ساده حرف R چندبار در کلمه strawberry تکرار شده پاسخ دهد؛ حالا حالاها مانده تا هوش مصنوعی بتواند از خودش فکر کند! البته شاید هم هرگز نتواند!
