У нашей Стефы вышел новый препринт про машинное обучение и прогнозирование насилия: Machine learning for violence prediction: a systematic review and critical appraisal (в соавторах Denis Yukhnenko, Giulio Scola, Seena Fazel).

(Если вы с нами недавно и не знаете, кто такая Стефа, прочитайте наш старый пост про нее, а также пост про ее предыдущую статью).

Авторы собрали и разобрали 38 исследований (40 моделей), где "черные ящики" — нейросети, random forest, градиентный бустинг и т.д. — пытаются предсказывать разные виды насилия: от рецидива преступлений до насилия в психиатрических стационарах и партнерского насилия.

Формально многие модели показывают неплохую красоту цифр (AUC в отдельных работах доходит почти до 0.99), но при ближайшем рассмотрении картина гораздо менее радужная: внешняя валидация есть всего у трех работ, а 31 из 38 исследований авторы относят к высокому риску систематических ошибок (малые выборки, переобучение, слабая отчетность, почти полное отсутствие оценки калибровки и т.д.). В результате Стефа с коллегами честно пишут, что пока ни одну модель нельзя рекомендовать к внедрению в клинику или систему правосудия.

Это не разгром, а конструктивный обзор того, что делать дальше. В конце статьи они предлагают несколько направлений, без которых у таких моделей нет шансов стать по-настоящему полезными:

- подтягивать методологию и отчетность к современным стандартам (PROBAST, TRIPOD+AI) и делать работы в междисциплинарных командах;

- использовать сложные "черные ящики" только там, где действительно есть большие и сложные данные, а в остальных случаях не стесняться классической статистики;

- переходить от статичных оценок риска к динамическим, которые можно обновлять по мере изменения состояния человека;

- развивать более прозрачные и объяснимые подходы (XAI, причинно-ориентированные модели), чтобы с такими инструментами вообще было возможно работать в психиатрии и праве.

Мне кажется, это очень нужная работа на стыке психиатрии, криминологии и data science: она аккуратно остужает хайп вокруг "ИИ, который все предскажет", но при этом показывает, куда двигаться, если мы хотим действительно безопасные и полезные предиктивные модели для профилактики насилия.

Стефа, поздравляю тебя с еще одним сильным исследованием и конференционным докладом❤️ Пусть рецензенты окажутся внимательными и доброжелательными, а журнал — достойным того объема работы, который вы проделали.