شرکت OpenAI در تازه‌ترین گزارش خود اعلام کرده است که نسخه‌های جدید ChatGPT، شامل مدل‌های GPT-5 Instant و GPT-5 Thinking، در پاسخگویی به پرسش‌های سیاسی، نسبت به نسخه‌های قبلی تا ۳۰ درصد بی‌طرف‌تر شده‌اند. این گزارش بخشی از پروژه‌ای بلندمدت برای ارزیابی و بهبود بی‌طرفی سیاسی مدل‌های زبانی است.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکه‌های اجتماعی را در نامبرلند بخوانید.
براساس بیانیه منتشرشده در وب‌سایت رسمی OpenAI، این شرکت یک چارچوب جدید برای سنجش سوگیری سیاسی در ChatGPT طراحی کرده است. این ارزیابی شامل بیش از ۵۰۰ پرامپت (پرسش و سناریو) در صد موضوع مختلف بوده و با هدف شبیه‌سازی موقعیت‌های واقعی کاربران اجرا شده است.
در این مدل ارزیابی، سوگیری در پنج محور مختلف تحلیل شده است تا مشخص شود در چه شرایطی سوگیری ظاهر می‌شود و شکل آن چگونه است. یافته‌ها نشان می‌دهد که پاسخ‌های ChatGPT در برابر پرامپت‌های خنثی یا اندکی متمایل، عموماً بی‌طرف و متوازن باقی می‌مانند، اما در پرسش‌های احساسی و چالش‌برانگیز سیاسی، احتمال بروز سوگیری بیشتر است.
در چنین مواردی، سوگیری معمولاً به شکل‌های زیر ظاهر می‌شود:
- ابراز نظر شخصی توسط مدل
- تمرکز نامتقارن روی یک دیدگاه
- استفاده از زبان هیجانی در پاسخ‌ها
این شرکت برای اطمینان از دقت نتایج، ارزیابی خود را نه‌تنها روی داده‌های آزمایشی، بلکه بر پایه نمونه‌های واقعی از ترافیک تولیدی ChatGPT نیز انجام داده است. طبق این بررسی، تنها ۰٫۰۱ درصد از کل پاسخ‌های ChatGPT نشانه‌هایی از سوگیری سیاسی نشان داده‌اند.
OpenAI تاکید کرده است که هدف اصلی این پروژه، ایجاد مدلی بی‌طرف به‌صورت پیش‌فرض و دادن کنترل دیدگاه‌ها به خود کاربر است. این اقدام بخشی از اصول جدید OpenAI در چارچوب موسوم به Model Spec با عنوان «جست‌وجوی حقیقت با همکاری کاربر» است.
فاز بعدی پروژه Open AI، بررسی دقیق‌تر پاسخ‌ها به پرسش‌های احساسی و قطبی‌شده است؛ چراکه همین نوع پرسش‌ها بیشترین احتمال سوگیری را دارند. همچنین این شرکت قصد دارد ارزیابی‌های خود را در زبان‌های دیگر (از جمله غیر انگلیسی) نیز گسترش دهد تا از ثبات رفتار بی‌طرفانه در مقیاس جهانی اطمینان حاصل کند.
اتصال ChatGPT و اسپاتیفای از دیگر اخبار مهم از Open AI است که امکان ساخت یک پلی‌لیست اختصاصی را در چت جی پی برایتان فراهم می‌کند.
