Прислали интересный документ про применение AI в медицине.

https://github.com/researchim-ai/state-of-ai/blob/main/Med_AI_research.md

Некоторые тезисы, на которые обратил внимание.

Основные направления применения ИИ в медицине

- Диангостика заболеваний. Наиболее распространены решения по анализу медицинских изображений, решения для анализа текстовых данных медицинских карт постепенно догоняют.
- Персонализированная медицина
- Роботизированная хирургия
- Администрирование и оптимизация клинических процессов
- Разработка лекарств и клинические исследования

57% врачей назвали автоматизацию рутинных задач по заполнению (медицинских карт, документации и т.д.) «главной областью, где ИИ может помочь системе здравоохранения»

Специализированные медицинские чат-боты на основе LLM успешно сдают профессиональные экзамены для врачей, достигая уровня знаний сертифицированных докторов. Например, модель Med-PaLM 2 (разработанная Google) продемонстрировала экспертный уровень при ответах на медицинские вопросы и клинические случаи.

ИИ производит революцию и в сфере создания новых лекарственных препаратов, которая традиционно долгая и дорогостоящая. Алгоритмы способны просеивать огромные базы данных по известным молекулам и соединениям, предсказывать их активность, а также генерировать новые химические структуры с заданными свойствами (т.н. генеративный дизайн лекарств).
В сентябре 2024 года Insilico сообщила о успешном завершении фазы IIa клинических испытаний препарата, продемонстрировав его безопасность и первую эффективность у пациентов. Это один из первых случаев, когда лекарство, обнаруженное и оптимизированное с помощью ИИ, дошло до середины клинических испытаний с обнадеживающими результатами – важный прецедент для всей отрасли.

Этика

Принцип «не навреди» обязывает гарантировать, что медицинский ИИ работает точно и предсказуемо. Ошибка алгоритма при диагностике или лечении может стоить пациенту здоровья, поэтому регуляторы предъявляют высокие требования к качеству.

Алгоритмическая справедливость – ключевая этическая проблема. Известно, что модели машинного обучения могут наследовать системные предубеждения (bias) из обучающих данных. В медицине это может привести к снижению качества помощи для отдельных групп. Например, если набор данных для ИИ состоял в основном из представителей одной расы или пола, точность предсказаний для другой группы будет ниже.

Большинство медицинских нейросетей – это «черные ящики»: сложно понять, как именно они пришли к тому или иному решению. Такая неинтерпретируемость проблематична: врачи и пациенты могут не доверять совету, если непонятно его обоснование. Более того, для некоторых решений (например, отказ от назначения лечения) требуется отчетливое объяснение. Поэтому активно развивается направление Explainable AI (XAI): создание методов, поясняющих вклад разных факторов в прогноз модели, визуализация зон на изображении, на которые «обратил внимание» ИИ и т.п.

Еще дилемма: замена человеческого контакта. Если в будущем чатботы возьмут на себя значительную часть коммуникации, не повредит ли это врачебной этике, где сострадание и личное общение – важная часть лечения? Многие пациенты ценят эмпатию, и пока ИИ не умеет (а может, и не должен) действительно сочувствовать.

Риски и вызовы внедрения ИИ

Ни один алгоритм не гарантирует 100% точности. Существуют риски как ложноотрицательных результатов (ИИ пропустит патологию), так и ложноположительных (выдаст тревогу там, где ее нет, что приведет к лишним обследованиям и стрессу пациента).
Поэтому страх перед ошибками – один из факторов, сдерживающих быстрое принятие ИИ врачебным сообществом. Для минимизации: внедряются системы оповещения, когда модель не уверена в ответе (например, «не могу классифицировать»), чтобы привлечь особое внимание врача.

Продолжение 👇