نگرانی رگولاتورها؛ ورود هوش مصنوعی به فرایند تشخیص‌های پزشکی

استفاده از هوش مصنوعی، با تمام منافع و مزایایی که به همراه دارد، همچنین با خطاها و اشتباهاتی همراه بوده است. اخیراً، پزشکان به نظر می‌رسد از ابزارهای هوش مصنوعی که کنترل نشده و تجربه کمی دارند، برای کمک به تشخیص بیماران استفاده می‌کنند. این امر باعث نگرانی رگولاتورهایی مانند FDA آمریکا شده است.

براساس گزارش پولیتیکو، برخی پزشکان در حال حاضر از ابزارهای هوش مصنوعی که کنترل نشده مانند دستیارهای مجازی برای یادداشت‌برداری، تشخیص و درمان بیماری‌ها استفاده می‌کنند. اما رشد سریع این فناوری باعث شده که دولت‌ها و سازمان‌ها نتوانند به همین سرعت مقررات لازم را در این زمینه اعمال کنند. مسائلی مانند تأمین مالی و استخدام کارکنان برای بررسی این هوش مصنوعی‌ها مهم هستند؛ اما رگولاتورها به خصوص در زمینه‌های پزشکی و مراقبت‌های بهداشتی نگران پیامدهای استفاده نادرست از هوش مصنوعی هستند.

ورود هوش مصنوعی‌های کنترل‌نشده به مسائل پزشکی به موضوعی حساس تبدیل شده است. به طور معمول، سازمان غذا و داروی آمریکا (FDA) پس از بررسی داروها یا ابزارهای پزشکی جدید به آن‌ها مجوز استفاده می‌دهد؛ اما در مورد نرم‌افزارهای هوش مصنوعی این فرآیند تأیید یا رد کردن نمی‌تواند به همین سادگی انجام شود، زیرا هوش مصنوعی همیشه در حال آموزش و تغییر است. به همین دلیل، FDA نیازمندی به نظارت مداوم بر محصولات هوش مصنوعی دارد.

در ماه اکتبر 2023، جو بایدن، رئیس جمهور آمریکا، از آژانس‌های نظارتی خواست که اقدامات لازم را برای اطمینان از ایمنی و کارایی هوش مصنوعی انجام دهند. اما به گزارش پولیتیکو، رگولاتورهایی مانند FDA منابع لازم برای نظارت بر این فناوری را ندارند.

مشکل FDA به نظر می‌رسد حتی از مسائل مالی یا تعداد کارکنان فراتر رفته است. این آژانس برای کنترل هوش مصنوعی، نیاز به قدرت بیشتری دارد. به عنوان مثال، FDA باید اجازه دسترسی به داده‌های هوش مصنوعی را داشته باشد و قادر به تنظیم الگوریتم‌های اصلی آن باشد تا بتواند این فناوری را در چهارچوب اصول پزشکی قرار دهد.