Мы не хотим мира, минующего понимание, мы хотим понимания, приносящего мир.
Cоздаем, переводим и распространяем материалы о равенстве и дискриминации.
Мы не продаем рекламу.
Связь: @g_equality_bot
Post #6408
1.84K
У нашей Стефы вышел новый препринт про машинное обучение и прогнозирование насилия: Machine learning for violence prediction: a systematic review and critical appraisal (в соавторах Denis Yukhnenko, Giulio Scola, Seena Fazel).
(Если вы с нами недавно и не знаете, кто такая Стефа, прочитайте наш старый пост про нее, а также пост про ее предыдущую статью).
Авторы собрали и разобрали 38 исследований (40 моделей), где "черные ящики" — нейросети, random forest, градиентный бустинг и т.д. — пытаются предсказывать разные виды насилия: от рецидива преступлений до насилия в психиатрических стационарах и партнерского насилия.
Формально многие модели показывают неплохую красоту цифр (AUC в отдельных работах доходит почти до 0.99), но при ближайшем рассмотрении картина гораздо менее радужная: внешняя валидация есть всего у трех работ, а 31 из 38 исследований авторы относят к высокому риску систематических ошибок (малые выборки, переобучение, слабая отчетность, почти полное отсутствие оценки калибровки и т.д.). В результате Стефа с коллегами честно пишут, что пока ни одну модель нельзя рекомендовать к внедрению в клинику или систему правосудия.
Это не разгром, а конструктивный обзор того, что делать дальше. В конце статьи они предлагают несколько направлений, без которых у таких моделей нет шансов стать по-настоящему полезными:
- подтягивать методологию и отчетность к современным стандартам (PROBAST, TRIPOD+AI) и делать работы в междисциплинарных командах;
- использовать сложные "черные ящики" только там, где действительно есть большие и сложные данные, а в остальных случаях не стесняться классической статистики;
- переходить от статичных оценок риска к динамическим, которые можно обновлять по мере изменения состояния человека;
- развивать более прозрачные и объяснимые подходы (XAI, причинно-ориентированные модели), чтобы с такими инструментами вообще было возможно работать в психиатрии и праве.
Мне кажется, это очень нужная работа на стыке психиатрии, криминологии и data science: она аккуратно остужает хайп вокруг "ИИ, который все предскажет", но при этом показывает, куда двигаться, если мы хотим действительно безопасные и полезные предиктивные модели для профилактики насилия.
Стефа, поздравляю тебя с еще одним сильным исследованием и конференционным докладом❤️ Пусть рецензенты окажутся внимательными и доброжелательными, а журнал — достойным того объема работы, который вы проделали.
(Если вы с нами недавно и не знаете, кто такая Стефа, прочитайте наш старый пост про нее, а также пост про ее предыдущую статью).
Авторы собрали и разобрали 38 исследований (40 моделей), где "черные ящики" — нейросети, random forest, градиентный бустинг и т.д. — пытаются предсказывать разные виды насилия: от рецидива преступлений до насилия в психиатрических стационарах и партнерского насилия.
Формально многие модели показывают неплохую красоту цифр (AUC в отдельных работах доходит почти до 0.99), но при ближайшем рассмотрении картина гораздо менее радужная: внешняя валидация есть всего у трех работ, а 31 из 38 исследований авторы относят к высокому риску систематических ошибок (малые выборки, переобучение, слабая отчетность, почти полное отсутствие оценки калибровки и т.д.). В результате Стефа с коллегами честно пишут, что пока ни одну модель нельзя рекомендовать к внедрению в клинику или систему правосудия.
Это не разгром, а конструктивный обзор того, что делать дальше. В конце статьи они предлагают несколько направлений, без которых у таких моделей нет шансов стать по-настоящему полезными:
- подтягивать методологию и отчетность к современным стандартам (PROBAST, TRIPOD+AI) и делать работы в междисциплинарных командах;
- использовать сложные "черные ящики" только там, где действительно есть большие и сложные данные, а в остальных случаях не стесняться классической статистики;
- переходить от статичных оценок риска к динамическим, которые можно обновлять по мере изменения состояния человека;
- развивать более прозрачные и объяснимые подходы (XAI, причинно-ориентированные модели), чтобы с такими инструментами вообще было возможно работать в психиатрии и праве.
Мне кажется, это очень нужная работа на стыке психиатрии, криминологии и data science: она аккуратно остужает хайп вокруг "ИИ, который все предскажет", но при этом показывает, куда двигаться, если мы хотим действительно безопасные и полезные предиктивные модели для профилактики насилия.
Стефа, поздравляю тебя с еще одним сильным исследованием и конференционным докладом❤️ Пусть рецензенты окажутся внимательными и доброжелательными, а журнал — достойным того объема работы, который вы проделали.
- 👍 34
- ❤🔥 18
- ❤ 5
- 🤔 2
- 🕊 2
- 👏 1
- 😍 1
