تا چند سال پیش خیلی از ابزارهای هوش مصنوعی پزشکی فقط یه نتیجه تحویل می‌دادن؛ مثلاً می‌گفتن این بیماری محتمله یا این درمان پیشنهاد میشه، ولی معلوم نبود دقیقاً بر چه اساسی به این نتیجه رسیدن. الان کم‌کم تمرکز داره میره سمت Explainable AI؛ یعنی هوش مصنوعی‌ای که علاوه بر جواب، مسیر رسیدن به اون جواب رو هم نشون میده. مثلاً به مقالات علمی استناد می‌کنه، اعتبار شواهد رو مشخص می‌کنه، تداخل داروها و مکمل‌ها رو بررسی می‌کنه و توضیح میده چرا یک گزینه از بقیه مناسب‌تره.

این موضوع برای پزشکی خیلی مهمه، چون پزشک نمی‌تونه صرفاً به خروجی یه مدل اعتماد کنه. هر تصمیم درمانی باید قابل بررسی و قابل دفاع باشه و در نهایت مسئولیتش هم با خود پزشکه. از طرف دیگه، بیماران هم بیشتر از قبل درباره بیماری‌هاشون تحقیق می‌کنن و انتظار دارن دلیل هر تصمیم درمانی رو بدونن. احتمالاً آینده هوش مصنوعی در حوزه سلامت فقط به ساخت مدل‌های قوی‌تر خلاصه نمیشه؛ مدل‌هایی برنده میشن که علاوه بر دقت بالا، شفاف باشن، منابعشون رو نشون بدن و بشه به استدلالشون اعتماد کرد.


@Linuxor