Современные больницы не просто используют ИИ в качестве консультантов, а встраивают его на всех уровнях инфраструктуры. В результате его использование становится гораздо более обширным - и менее контролируемым, чем хотелось бы пациентам.

Низовой уровень применения ИИ - ведение записей за врача: именно это рекламируют разработчики в первую очередь. Приложения вроде DAX Copilot слушают разговор врача и пациента, записывают историю болезни и симптомы, выдают несколько потенциальных диагнозов и возможные планы лечения. Все это экономит врачу несколько часов в день, освобождая его от административно-бюрократической волокиты, но именно здесь и начинаются ошибки. ИИ может неправильно распознать речь, интерпретировать симптомы или не связать важные признаки заболевания воедино. Но когда он предлагает врачу структурированный и на первый взгляд логичный план, это убирает стимул перепроверять и тестировать пациента на более редкие заболевания.

Второй уровень - триаж в отделениях неотложной помощи. Здесь ИИ используется для оценки состояния пациентов и их распределения на группы: тех, кому помощь нужна срочно, кто может подождать и кого следует отправить домой. В апреле 2026 г. вышло исследование, в котором чат-ботам давали оценить срочность случаев в психиатрическом триаже по 4 категориям: от A - рутинных (назначенные повторные приемы) до D - экстренные (например, суицидальное поведение). Случаи категории D модели определяли неплохо, хотя и не идеально (23 ошибки из 410 запросов, 5,6%), но с остальными были проблемы. Для категории A точность составила 60,5%, для C - 66,7%. С категорией B у всех была катастрофа: общий результат 28,9%, а у 5 моделей (включая GPT-4o и GPT-5.4) было 0 правильных ответов. Но одного умения определять самые экстренные случаи еще недостаточно для работы в триаже.

Третий уровень - непосредственно назначение препаратов и контроль за их приемом. Больницы используют ИИ в этой сфере гораздо чаще, чем привыкли думать пациенты. На днях был опубликован доклад NHS по системным нарушениям, вызванным ошибками ПО, и один из разделов был посвящен неправильному назначению лекарств. В числе упомянутых случаев:
*️⃣ Пациент с болезнью Паркинсона провел 3 дня в отделении неотложной помощи, не получив необходимых лекарств, т.к. в локальной системе отсутствовало оповещение о срочных назначениях. В результате он потерял способность глотать.
*️⃣ Пожилой пациент скончался после инсульта, потому что ПО не напомнило врачам о необходимости возобновить прием антикоагулянта, который был временно приостановлен из-за процедур.
*️⃣ У еще одного пациента возникло сильное кровотечение в ЖКТ, которое привело к смерти из-за одновременного приема 2 антикоагулянтов. Причиной стала несовместимость системы больничных выписок с данными, полученными в аптеках.
*️⃣ Четырехлетняя девочка 5 раз получила дозу антикоагулянта, в 10 раз превышающую запланированную, т.к. конфигурация ПО для взрослых была адаптирована для использования в педиатрии без должных проверок.

Это хорошо иллюстрирует, к чему приводит чрезмерное доверие к ИИ без привычки перепроверять результаты. Если больничное ПО не напомнило про прием препаратов, а команда не держит “руку на пульсе”, пациент окажется без лекарств.

Еще одна особенность медицинского ИИ - он делает ошибки, которые часто отличаются от ошибок людей. Если люди склонны строить причинно-следственные связи и смотреть на динамику, то ИИ оценивает вероятности. Из-за этого он реже обращается к редким случаям и плохо анализирует изменение состояния пациента во времени. Там, где врач может догадаться, что “что-то не так”, и начать исследовать глубже, ИИ будет продолжать настаивать на типичных сценариях. С другой стороны, человек из-за усталости или невнимательности может пропустить важные симптомы при постановке диагноза, но ИИ скорректирует эту ошибку, указав на них. Как следствие, ИИ действительно может помочь больницам в некоторых аспектах - но его нельзя встраивать в инфраструктуру без контроля со стороны людей.