ИИ вместо врача: как подростки ставят себе диагнозы с помощью нейросетей и почему это опасноТенденция, когда подростки — а вслед за ними и родители — вбивают симптомы в чат-бот и получают готовый «диагноз», требует спокойного, но принципиального разбора. С позиции доказательной медицины здесь есть несколько фундаментальных проблем. Мы попросили порассуждать о них врача Людмилу Джапаридзе, автора канала «
ЛОР на связи».
🟣
Диагноз — это не подбор симптомовИскусственный интеллект работает с текстом статистически: он ищет наиболее вероятное соответствие между описанными жалобами и массивом данных, на которых обучен. Врачебная диагностика устроена принципиально иначе — это не сопоставление ключевых слов, а комплексный процесс:
🍭 Оосмотр — то, что ИИ в принципе не может сделать. Боль в животе при пальпации, характер сыпи на ощупь, состояние барабанной перепонки через отоскоп, аускультация легких — вся эта информация недоступна текстовому алгоритму.
🍭 Анамнез с уточняющими вопросами в реальном времени — опытный врач меняет направление опроса в зависимости от ответа, замечает несостыковки, обращает внимание на то, что пациент не упомянул, но что важно.
🍭 Оценка претестовой вероятности — врач знает эпидемиологическую ситуацию в регионе, возрастные особенности, факторы риска конкретного ребёнка, чего ИИ, как правило, лишён или получает только со слов пользователя.
Один и тот же набор симптомов — «болит голова, температура, тошнота» — может относиться к десяткам диагнозов: от банального ОРВИ до состояний, требующих немедленной госпитализации. Различить их без осмотра невозможно в принципе и никакая формулировка запроса это не компенсирует.
🟣
Проблема правдоподобного, но неверногоЯзыковые модели устроены так, что они генерируют грамматически и стилистически убедительный текст, который выглядит авторитетно вне зависимости от того, насколько он фактически точен. Это ключевая опасность: подросток или родитель получает не гипотезу для обсуждения с врачом, а текст с интонацией уверенного эксперта, и воспринимает его как готовый ответ.
Доказательная медицина строится на прозрачности источника: любая рекомендация должна быть прослеживаема до конкретного исследования, его дизайна, размера выборки, уровня доказательности. Ответ чат-бота — это, по сути, чёрный ящик: пользователь не может проверить, откуда взялась информация, актуальна ли она, не устарела ли, взята ли из рецензируемого источника или с форума.
🟣
Почему это вредит подросткамДля подростков типичный сценарий — тревожность, усиленная поиском симптомов (то, что в психиатрии называют киберхондрией): чат-бот, стремясь дать исчерпывающий ответ, часто перечисляет весь спектр возможных причин симптома — от безобидных до крайне тяжёлых, и подросток без медицинского образования не может критически оценить, какая вероятность реалистична, и фиксируется на худшем сценарии.
Для родителей риск иной — ложное успокоение или, наоборот, ненужное вмешательство. Родитель может получить ответ, который не учитывает индивидуальные особенности ребёнка, скрытую хроническую патологию или лекарственные взаимодействия, и на основании этого отложить визит к педиатру при действительно тревожных симптомах — или, наоборот, начать самостоятельно лечить несуществующую проблему (тот самый пример с необоснованным приёмом антибиотиков или противогельминтных препаратов «на всякий случай»).
🟣
Где ИИ действительно может быть полезенИИ может быть полезен как:
🟣 помощник в составлении вопросов перед приёмом;
🟣 источник общей просветительской информации о механизмах болезни — при условии, что это не заменяет консультацию;
🟣 помощник для расшифровки медицинских терминов после приёма, когда диагноз уже поставлен врачом.
Но ИИ не может заменить главного — ответственности за диагноз, которую несёт конкретный специалист, обязанный следовать протоколам и юридически отвечающий за своё решение.