💢 آیا می‌توان به تشخیص‌های هوش مصنوعی پزشکی اعتماد کرد؟

در بیش از نیمی از مواردی که از نظر پزشکان واقعا اورژانسی بودند، هوش مصنوعی فوریت را کمتر از میزان واقعی ارزیابی کرد و به‌جای مراجعه فوری به اورژانس، مراجعه ظرف ۲۴ تا ۴۸ ساعت را توصیه کرد.

با گسترش استفاده از هوش مصنوعی برای دریافت اطلاعات پزشکی، بسیاری از کاربران پیش از مراجعه به پزشک، علائم خود را با ابزارهایی مانند چت‌جی‌پی‌تی در میان می‌گذارند.

اما تحقیق جدیدی درباره چت‌جی‌پی‌تی هلث (ChatGPT Health)، نشان می‌دهد این فناوری به‌ویژه هنگام مواجهه با موارد اورژانسی ممکن است میزان فوریت وضعیت بیمار را به‌درستی ارزیابی نکند.

پژوهشگران برای بررسی عملکرد این سامانه، ۶۰ شرح‌حال بالینی را که پزشکان در ۲۱ حوزه پزشکی نوشته بودند آزمایش کردند و در مجموع ۹۶۰ پاسخ از چت‌جی‌پی‌تی هلث گرفتند. سه پزشک نیز به‌طور مستقل سطح فوریت هر مورد را بر اساس دستورالعمل‌های پزشکی تعیین کردند.

موارد در چهار گروه قرار گرفتند: «غیرفوری» برای مراقبت و پایش در خانه، «نیمه‌فوری» برای مراجعه به پزشک طی چند هفته، «فوری» برای مراجعه ظرف ۲۴ تا ۴۸ ساعت و «اورژانسی» برای مراجعه به بخش فوریت‌های پزشکی.

نتایج نشان داد دقت هوش مصنوعی در موارد با فوریت متوسط بیشتر از دو سر طیف، غیرفوری و اورژانسی، بود. دقت سامانه در موارد نیمه‌فوری ۹۳ درصد و در موارد فوری ۷۶.۹ درصد بود، اما در موارد غیرفوری به ۳۵.۲ درصد و در شرایط اورژانسی به ۴۸.۴ درصد کاهش پیدا کرد.

در بخش دیگری از تحقیق که در مورد افکار خودکشی بود، هشدارهای مربوط به بحران روانی به‌طور نامنظم فعال می‌شدند. در بررسی تکمیلی، هشدار «کمک در دسترس است» تنها در ۴ مورد از ۱۴ شرح‌حال ظاهر شد و در ۱۰ مورد دیگر، در هیچ‌یک از ۱۶۰ پاسخ، هشدار ایمنی نمایش داده نشد.

حتی در برخی مواردی که فرد افکار فعال خودکشی و روش مشخصی برای آسیب به خود بیان کرده بود هشدار فعال نشد، در حالی که این هشدارها در مواردی که فرد به خودکشی فکر کرده بود اما روش مشخصی را ذکر نکرده بود بیشتر ظاهر می‌شدند. 

پژوهشگران تاکید کرده‌اند که این تحقیق با استفاده از شرح‌حال‌های ساختگی انجام شده است، نه بیماران واقعی.

بیشتر در کامنت

🆔@ScientificDialectics