Искусственный интеллект поставил мне диагноз!

Нейросети могут быстро собрать информацию: помочь сориентироваться в симптомах, объяснить, что обычно проверяют при таких анализах, или напомнить о возможных взаимодействиях препаратов.

Для кого-то это способ снизить тревожность перед визитом к врачу или получить базовое понимание диагноза, чтобы задать специалисту более точные вопросы.

При этом метод (пока что) чреват весьма неприятными рисками.
Исследования показывают: когда нейросети пытаются поставить диагноз или дать рекомендацию по лечению, они часто ошибаются.
В исследовании, опубликованном в JAMA (2023), ChatGPT правильно определил основной диагноз лишь в 51,2% сложных педиатрических случаев.
В сфере онкологии ошибки в рекомендациях по лечению встречались в 35% случаев, а в неотложной медицине — до 83% (когда модель неверно приоритизировала угрозу для жизни). Термин «галлюцинации» здесь означает генерацию вымышленных или некорректных данных.

Риск задержки помощи. Есть задокументированные случаи, когда человек, получив от нейросети успокаивающий ответ (например, что симптомы — это просто стресс или паническая атака), откладывал вызов скорой. В одном из таких случаев это привело к обширному поражению миокарда, потому что на самом деле развивался инфаркт. В другом примере нейросеть рекомендовала пожилому пациенту с проблемами почек дозу антикоагулянта, вдвое превышающую безопасную норму, — это спровоцировало внутреннее кровотечение.

Проблемы с контекстом.
Нейросеть не проводит физический осмотр, не видит всей медицинской истории в комплексе (хронические болезни, аллергии, лекарства, которые человек уже принимает) и не улавливает невербальные сигналы. Из-за этого она может упустить важные детали, предложить обобщённый или даже вредный совет.

Специфические риски в ментальном здоровье.
Здесь опасность особенно высока. Нейросети могут непреднамеренно усилить вредные убеждения, поддержать бредовые идеи или не распознать кризис (например, суицидальные мысли), дав при этом небезопасный совет.
Есть и риск эмоциональной зависимости: человек начинает слишком полагаться на «цифровую поддержку», что может усугублять одиночество и социальную изоляцию.
Описаны несколько случаев доведения нейросетью до суицида.

Сложность коммуникации.
Часто возникает «разрыв в общении»: пользователь не всегда понимает, какую именно информацию нужно предоставить нейросети для точного ответа, а сам ответ может представлять собой смесь верных и ошибочных утверждений, и человеку трудно отделить одно от другого.

Возникают вопросы об ответственности: кто несёт ответственность за ошибку — разработчик, пользователь или врач, который не перепроверил информацию?
Есть и реальные прецеденты: например, в США пастор подал в суд на OpenAI, утверждая, что советы ChatGPT привели к задержке жизненно важной помощи при тромбоэмболии лёгочной артерии.

Важный практический вывод: нейросети — это инструмент для сбора справочной информации или «второй мысли», но не замена консультации.

Соответственно, нет причин бояться искусственного интеллекта, нет ничего плохого в получении от него второго мнения, но это - не всемогущий абсолют, на текущий момент у него присутствует много ограничений в медицине.

Пользовались ИИ для самодиагностики?
Как вам?