🔥 Как ИИ усиливает старые ошибки медицины — и почему женщины платят за это первыми

Привет! Меня зовут Ольга Титова, я работаю AI Product Manager, выступаю за безопасный и этичный подход к ИИ, и каждую неделю делюсь с подписчиками Femtech Force новостями из мира ИИ и здоровья.

Сегодня разберем классный интерактивный отчет ai.femtechnology.org, который комплексно смотрит на одну из самых важных проблем на стыке ИИ и медицины — почему алгоритмы системно хуже работают для женщин. Мы уже писали о некоторых аспектах этой темы (тут и тут), но здесь собран целостный подход — от истоков проблемы до конкретных путей решения. Очень советую посмотреть сайт целиком!

➡️ В чём проблема: цепная реакция от исследований до алгоритмов

Медицина внедряет искусственный интеллект в 2,2 раза быстрее, чем остальная экономика. Мы много слышим про персонализированный подход, но есть нюанс: точность невозможна, если исходные данные не точны.

Десятилетиями клинические исследования строились вокруг мужского тела как стандарта; женщин исключали из исследований из-за «биологической вариативности». А когда включали, их данные часто оказывались статистически слабыми, усреднялись или просто терялись.

➡️ В результате запустилась цепная реакция:

Слой 1. Клинические исследования → бОльшая часть знаний о болезнях и лекарствах сформирована на данных о мужчинах

Слой 2. Гайдлайны и диагностические пороги → эти данные превращаются в клинические нормы. Женские проявления заболеваний часто в них не учитываются

Слой 3. Клиническая практика → врачи обучаются по этим гайдлайнам и принимают решения в той же оптике

Слой 4. Электронные медкарты и административные данные → становятся «истиной» для обучения ИИ. Но они не нейтральны, это след человеческих решений

Слой 5. Обучение медицинских ИИ-моделей → модели обучаются на всех этих источниках, которые уже несут в себе перекос.

➡️ Что происходит в итоге?

ИИ масштабирует перекос. Модели, обученные на нерепрезентативных данных, снижают диагностическую точность врачей на 11,3 процентных пункта (врач без ИИ: 92,4% vs. врач + предвзятый ИИ: 81,1%).

Это эффект automation bias: врач доверяет алгоритму, даже когда его собственное клиническое решение было правильным. При этом, даже когда врачам показывали, как модель сделала свои выводы, результат оставался тем же.

➡️ Где же здесь возможности?

Авторы делают важный акцент: женское здоровье — не проблема для ИИ, а самый сильный кейс для его применения, если подойти правильно.

Почему женская биология идеально подходит для ИИ:

— Гормональные циклы создают регулярные паттерны (~28 дней), которые алгоритмы хорошо распознают;
— Репродуктивные события (менструация, беременность, менопауза) — это чёткие переходы между состояниями организма;
— Один и тот же анализ может означать разное в разные периоды жизни. ИИ может научиться это учитывать.

Авторы отчета предлагают перестройку системы с основы:

— Учитывать цикл и жизненный этап как важную часть диагностики;
по-разному интерпретировать анализы во время беременности, после родов, в перименопаузе;
— Считать боль, усталость и качество жизни полноценными медицинскими показателями;
— Отказаться от статичных кодов в пользу динамических описаний диагнозов.

Женское здоровье — это проверка на прочность для ИИ. Если система справляется с гормональными изменениями и переходами в течение жизни, она становится точнее для всех.

@FemtechForce — о технологиях для здоровья женщин

Текст подготовила #ОльгаТитова