تکیهبر هوش مصنوعی برای تشخیص بیماری، کاربران را با کوهی از اطلاعات متناقض و نادرست روبهرو میکند که سلامت جان آنها را به خطر میاندازد.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکههای اجتماعی را در نامبرلند بخوانید.
جدیدترین پژوهشهای دانشمندان دانشگاه آکسفورد نشان میدهد که چتباتهای هوش مصنوعی بههیچوجه مشاوران قابل اعتمادی برای مسائل پزشکی نیستند. این مطالعه فاش کرده که کاربران در مواجهه با پاسخهای هوش مصنوعی، قدرت تشخیص اطلاعات درست از نادرست را ندارند و این موضوع میتواند منجر به تصمیمات اشتباه درمانی شود.
آمارها نشان میدهند در سال گذشته میلادی، بیش از ۳۰ درصد مردم برای رفع مشکلات سلامت روان خود از این ابزارها استفاده کردهاند؛ اقدامی که پزشکان آن را «بسیار خطرناک» توصیف میکنند.
شکست سنگین ۵ چتبات برتر در آزمون سلامت
در یک آزمایش گسترده که نتایج آن در مجله علمی BMJ Open منتشر شده، ۵ غول هوش مصنوعی یعنی چتجیپیتی، جمینای، دیپیسیک، متا و گروک با پرسشهای چالشبرانگیز پزشکی روبهرو شدند.
نتایج بهدستآمده تکاندهنده است؛ تقریباً ۵۰ درصد از پاسخهای ارائه شده توسط این مدلها حاوی ایرادات علمی بوده است.
در این میان، چتبات «گروک» ضعیفترین عملکرد را داشته و بیشترین حجم از پاسخهای خطرناک را تولید کرده است. محققان میگویند هوش مصنوعی در موضوعاتی مثل سرطان و واکسن عملکرد نسبتاً بهتری دارد، اما در حوزههایی مانند تغذیه، سلولهای بنیادی و مکملهای ورزشی، پاسخهای بسیار گمراهکننده و اشتباهی ارائه میدهد.
چالش فهم مطالب و ارجاعات علمی جعلی
دکتر آدام مهدی، نویسنده ارشد این مطالعه، معتقد است که تعامل انسان با هوش مصنوعی در حوزه سلامت دچار یک شکاف بزرگ است.
کاربران معمولاً علائم خود را به صورت کامل بیان نمیکنند و هوش مصنوعی نیز با ارائه چندین گزینه احتمالی، فرد را در حدس زدن بیماری خود رها میکند. این سردرگمی دقیقاً همان جایی است که روند درمان از مسیر درست خارج میشود.
علاوهبراین، بررسیها نشان داده است که هوش مصنوعی در ارائه منابع علمی نیز صادق نیست. هیچکدام از این چتباتها نتوانستند یک لیست کاملاً دقیق از منابع درخواستی ارائه دهند و در اکثر موارد، ارجاعات علمی آنها ناقص یا اشتباه بوده است.
همچنین زبانِ پیچیده این ابزارها باعث شده تا فهم مطالب فقط برای افراد با تحصیلات عالی ممکن باشد و مردم عادی را دچار سوءبرداشت کند.
در خبرهای دیگر خواندیم که چتهای هوش مصنوعی افراد میتوانند بهعنوان مدرک جرم در دادگاه علیه آنها استفاده شود.
