با ظهور هوش مصنوعی و محبوب شدن ابزارهی مختلف آن، شاهد هستیم که چقدر به پیشرفت علوم (از جمله علم پزشکی و درمان) کمک کرده؛ اما در عین حال همه می دانیم این ابزارها هنوز در مراحل اولیه هستند و خطا و اشتباهات زیادی از آن‌ها سر می زند. به این ترتیب نمی توان به یک ابزار هوش مصنوعی اعتماد کامل داشت.
اما اتفاق خطرناکی در حال رخ دادن است: به گزارش politico در حال حاضر، برخی پزشکان از ابزارهای هوش مصنوعی کم‌تجربه و کنترل‌نشده در کارشان استفاده می‌کنند! این موضوع به شدت رگولاتورهایی مثل FDA را نگران کرده است.
به عنوان مثال، برخی پزشکان از ابزارهای هوش مصنوعی برای یادداشت کردن نکات شرح حال بیمار و سپس تشخیص بیماری استفاده می کنند و حتی در بعضی موارد انتخاب روش درمان را هم به طور کامل به این دستیارهای هوش مصنوعی سپرده اند! چنین استفاده‌ای از ابزارهای هوش مصنوعی که هنوز امتحان خود را پس نداده و زمان زیادی از ظهورشان نگذشته بسیار خطرناک است؛ و صدای رگولاتورهای بزرگ را در آورده است.
سرعت پیشرفت هوش مصنوعی باعث شده قانون‌گذاران عقب بمانند
رشد سریع تکنولوژی هوش مصنوعی و از طرفی دائما در حال تغییر بودن آن‌ها، باعث شده که سازمان‌ها و دولت‌های قانون گذار از وضع قوانین و مقررات درباره استفاده از این ابزارها عقب بمانند و نتوانند این ابزارها را بررسی دقیق کنند. چراکه منابع مالی یا انسانی را برای بررسی هوش مصنوعی را ندارند و پیش از اینکه تصمیمی بگیرند، هوش مصنوعی در مرحله جدیدی از پیشرفت باشد! چنین پدیده‌ای خطرناک و نگران کننده است چراکه ممکن است پیامدهای گرانی به ویژه در حوزه علوم پزشکی داشته باشد.
مشکل دیگر سازمان غذا و داروی آمریکا (FDA) معمولاً پس از بررسی داروها یا ابزارهای پزشکی جدید به آن‌ها مجوز استفاده می‌دهد؛ اما نرم‌افزارهای هوش مصنوعی را نمی‌توان با این روند تأیید یا رد کرد چراکه هوش مصنوعی دائماً درحال آموزش و تغییر است. به همین دلیل FDA می‌خواهد محصولات هوش مصنوعی را به‌شکل پیوسته نظارت کند.
پیش از این هم دیده بودیم یکسری محققان درباره استفاده غیراستاندارد و به شیوه نادرست از هوش مصنوعی هشدار داده بودند، به طور مثال اینکه آیا نتایج تحقیقات هوش مصنوعی در حوزه داروسازی واقعاً موثر است؟ را در مقاله‌ای جداگانه بررسی کرده بودیم.
