به گزارش cnbc، مطالعه‌ای جدید نشان می‌دهد که نسخه رایگان ChatGPT ممکن است به سوالات مرتبط با داروها، پاسخ‌های نادرست یا ناقص بدهد یا حتی سوال را بدون پاسخ بگذارد، در اینصورت، جان بیمار به خطر می‌افتد.
نتایج مطالعه ChatGPT
جمعی از داروسازان دانشگاه Long Island در ماه مه، 39 سوال از چت‌جی‌پی‌تی رایگان پرسیدند که این چت بات فقط توانست به 10 سوال پاسخی “قابل قبول” بر اساس معیارهایی که تعیین کرده بودند، بدهد. پاسخ چت‌جی‌پی‌تی به 29 سوال دیگر در مورد داروها، ناقص و نادرست بود.
سارا گروسمن، استاد همکار در زمینه عملکرد داروسازی در دانشگاه Long Island، اظهارنظر داشت که بیماران و کارمندان حوزه بهداشت باید با احتیاط از چت‌جی‌پی‌تی استفاده کنند و پاسخ های این چت بات را با یک منبع قابل اعتماد بررسی کنند. به گفته او، منبع قابل اعتماد می‌تواند یک پزشک باشد یا یک وبسایت اطلاعات دارویی مانند MedlinePlus از مؤسسه ملی بهداشت (NIH).
واکنش OpenAI در مورد این مطالعه
نماینده‌ای از OpenAI در واکنش به این خبر گفت: OpenAI، چت‌جی‌پی‌تی را طوری طراحی کرده که اگر از او در مورد داروها و مسائل پزشکی سوال پرسیده شود، در پاسخ بگوید که نباید بر پاسخ‌های آن به عنوان جایگزین مشاوره حرفه‌ای پزشکی یا مراقبت سنتی اعتماد کنند.”
این نماینده مدعی است که خود چت بات هم به بیماران در مورد مطمئن شدن صحت مطلب هشدار می‌دهد.
این نماینده همچنین بخشی از سیاست استفاده این شرکت را به اشتراک گذاشت که بیان می‌کند: “مدل‌های این شرکت به منظور ارائه اطلاعات پزشکی به طور دقیق تنظیم نشده‌اند.”
از این رو، نباید هرگز از چت‌جی‌پی‌تی رایگان برای ارائه خدمات تشخیص و یا درمان بیماری های جدی استفاده کنند.
چالش‌ها و نگرانی‌ها در مورد ChatGPT
حدود یکسال از راه اندازی چت‌جی‌پی‌تی می‌گذرد و این برنامه پرطرفدارترین و پرمصرف ترین برنامه اینترنتی در طول تاریخ بوده و سال پر رشدی برای هوش مصنوعی راه اندازی کرد. در طی این یکسال این چت بات نگرانی های زیادی در مورد مسائل مختلف مانند تقلب، مالکیت معنوی، تبعیض و اطلاعات اشتباه ایجاد کرده است.
اخباری وجود دارد که نشان می‌دهد چت جی پی تی رایگان پاسخ های اشتباهی را ارائه داده و این منجر به ایجاد کمیسیون بازرگانی فدرال (FTC) تحقیقی را در مورد دقت و حفاظت مصرف‌کننده از چت‌بات شد.
در کنار نسخه رایگان چت‌جی‌پی‌تی، نسخه‌های پولی این هوش مصنوعی وجود دارد که نسبت به نسخه رایگان یا همان ChatGPT 3.5 دقت بالاتری دارند، به اطلاعات به روزتری دسترسی دارند و قابل اعتمادتر هستند. نسخه ChatGPT4 گزینه بهتری برای استفاده از این چت بات است.
همچنین OpenAI در کنفرانسی که داشته، GPT-4 Turbo را به عنوان قدرتمندترین مدل خود معرفی کرد. سم آلتمن، مدیر عامل OpenAI هم در مورد جذب سرمایه از مایکروسافت گفته و اعلام کرده در حال کار بر روی نسخه هوش مصنوعی GPT-5 است.
