Цифровое неравенство 2.0

Пока кто-то грезит, как ИИ ставит нам диагнозы по селфи или изобретает лекарство от всего на свете, реальность куда прозаичнее. Январское исследование Университета Миннесоты, опубликованное в Health Affairs, дает отрезвляющую статистику.

Да, 65% американских больниц уже вовсю используют ИИ-ассистентов, но пока вовсе не для спасения жизней в операционной, а для гораздо более приземленных вещей: прогнозирование состояния пациентов, поиск больных из группы риска, а также автоматического выставления счетов и планирования расписания. То есть ИИ пока управляет не столько лечением, сколько логистикой медицины.

Но оказалось, что алгоритмы, предсказывающие траекторию здоровья пациентов (этим занимаются 92% моделей) или выявляющие группы высокого риска (79%), проходят «техосмотр» спустя рукава. Только 61% больниц вообще проверяют свои предсказательные модели на точность. А уж на предвзятость, то есть на способность одинаково хорошо работать для разных групп пациентов, их тестируют лишь 44% учреждений. Между тем, модельки по разному работают на разных группах пациентов: по возрасту, расе, социальному статусу или географии.

Как метко замечает ведущий автор исследования Пейдж Нонг, большая часть больниц покупает эти модели «с полки», словно консервы. Проблема в том, что ИИ, натренированный на данных благополучного академического медцентра, оказавшись в сельской больнице, начинает галлюцинировать в отношении рисков и смотреть на местных пациентов как на инопланетян.

Цифровой разрыв между богатыми и бедными госпиталями становится не просто вопросом удобства, а вопросом безопасности. Пока элитные клиники пилят свои кастомные модели, больницы скорой помощи и сельские клиники вынуждены работать с черным ящиком, который, возможно, их пациентов в упор не видит.

Для рынка биотеха и медтеха эта новость — тревожный звоночек, граничащий с открытием нового рынка. Ведь следующий этап неизбежен: страховые, регуляторы и, возможно, суды начнут задавать простой вопрос — если алгоритм ошибся, кто виноват? Компания-разработчик? Больница, которая его купила? Или врач, который ему доверился?

Возникает огромный спрос на инфраструктуру доверия: аудит алгоритмов, сертификация, объяснимый ИИ. Регуляторам же, судя по всему, придется учиться проверять то, что врачи уже используют, но еще не понимают, и это может резко замедлить внедрение новых решений.

Итак, формируется новый класс продуктов: не «умный ИИ», а «проверенный ИИ». Так что следующая волна стартапов в ИИ-медицине явно будет не про «еще один ИИ для всего», а про аудит и чистку этих алгоритмов от предвзятости.

@antibiotech