Синтетические рентгеновские изображения стали такими качественными, что их не в состоянии распознать ни врачи, ни сами ИИ. К чему это может привести, и как поток подделок изменит медицину уже в ближайшем будущем?

Ученые из Маунт-Синай опубликовали статью, посвященную распознаванию медицинских ИИ-изображений. Они взяли 264 рентгеновских снимка, 132 из которых были подлинными, а остальные - сгенерированными общедоступными LLM, не требующими узкоспециальных знаний: ChatGPT и RoentGen.

В исследовании участвовало 17 рентгенологов, не знавших о его реальной цели. Когда их спросили, заметили ли они что-то странное в изображениях, 7 из 17 врачей (41%) сообщили, что они могли быть сгенерированными ИИ. На втором этапе им заранее сказали о том, что часть рентгенограмм - синтетические, и тогда врачи распознали их в 74,8% (ChatGPT) и 70% (RoentGen) случаев. Когда авторы дали те же снимки ИИ-моделям, лучше всего справился GPT-5 со средним результатом 85,8%. Худший результат показали Gemini 2.5 Pro (58,7%) и Llama 4 Maverick (55,45%).

Главная проблема, которую выявило исследование - в большинстве случаев врачи могли распознать ИИ-изображения только благодаря тому, что они выглядели идеально. Позвоночник неестественно прямой, легкие чересчур симметричные, переломы слишком чистые и часто затрагивают только одну сторону кости. Но скоро разработчики учтут эту особенность, и различить подлинные и сгенерированные снимки будет практически невозможно. Другая проблема - то, что схожие подделки уже появляются для КТ и МРТ-изображений.

Как это повлияет на медицину? Один из самых очевидных способов - мошенничество. Варианты неисчислимы. Сомнительные медклиники, заманивающие людей на диагностику и показывающие им МРТ опухолей, а затем выкачивающие огромные деньги на “лечение” того, чего нет. Запросы в страховые по ложным травмам, к которым прилагается фейковый рентгеновский снимок в качестве доказательства. Благотворительные сборы в Интернете на несуществующие болезни. Судебные иски по поводу якобы причиненного вреда здоровью, “доказать” который теперь несложно, особенно если мошенник связан с какой-то клиникой. И т.д., и т.п.

Еще больше проблем могут принести новые возможности для фальсификации КИ. Если до сих пор фармкомпании искажали их результаты с помощью точечных вмешательств - сомнительных показателей (вроде иммуногенности вакцины вместо числа заболевших), вводящих в заблуждение графиков и т.д., то теперь можно не стесняться и “рисовать” любые результаты. Например, существенное уменьшение опухоли там, где этого не происходит. Заодно ИИ может создать любое число несуществующих пациентов, генерируя правдоподобные данные для медицинских карт.

Другое серьезное последствие - размывание доверия к медицинским данным. Уже сейчас любой видеоролик априори подвергается сомнению, потому что может оказаться дипфейком. Но теперь это идет на уровень глубже: пациент усваивает, что ничему, включая доказательную медицину, верить нельзя. И если доводы научных статьей и медицинских блогеров в соцсетях одинаково недоказуемы, то люди склоняются к тому, кто рисует более привлекательную, убедительную и эмоционально окрашенную картинку. Как правило, это не ученые.

Какие еще последствия могут быть? Врачи, принимающие пациентов из других клиник, вынуждены переделывать все анализы и обследования, потому что не знают, кем и при каких обстоятельствах они были сделаны. Регуляторам придется требовать максимально “сырые” данные КИ и проверять их под лупой, что усилит нагрузку и увеличит время на одобрение препарата. Суды перестанут принимать медицинские данные как неоспоримые доказательства.

Авторы статьи предлагают методы борьбы с дипфейками, например, цифровые водяные знаки и криптографическое хеширование. Но на практике реализовать это сложно, а обеспечить длительную эффективность методов - еще сложнее. Если подделка изображений кому-то выгодна, то инструменты взлома будут “эволюционировать” параллельно со средствами защиты. В результате останется единственный вариант - никому не верить и по возможности перепроверять все своими силами.