Mental health tech

AI Mental Health Collective: 4 бесплатных гайда для клиницистов и пользователей AI

AI Mental Health Collective — сообщество проверенных специалистов на пересечении технологий и психологии. Основано доктором Рэйчел Вуд (Dr. Rachel Wood), кандидатом наук в области киберпсихологии. Миссия — ответственное использование AI в ментальном здоровье через междисциплинарный диалог.

Коллектив выпустил набор открытых ресурсов — кратких, практичных гайдов. Вот что в них:

1. Клиницисты и AI (Clinicians + AI) — что делать терапевту, если клиенты используют AI для эмоциональной поддержки. Конкретные шаги для интеграции в процесс интейка.

2. Ответственное использование AI (Responsible AI Use) — этика взаимодействия с разговорным AI. Рекомендации для ответственного использования.

3. Какой чат-бот вам подходит? (Which Chatbot is Right for You?) — потребительский гайд: не все чат-боты одинаковы, как выбрать подходящий для себя.

4. Юридические аспекты для клиницистов (Legal Considerations for Clinicians + AI) — юридические и этические аспекты использования AI в клинической практике.

Все материалы на английском. Есть версии на испанском и японском; румынский скоро.

Будет ли полезен перевод на русский? Напишите в комментариях, если да — сделаем.

#ai@mentalhealthtech #therapy@mentalhealthtech #resources@mentalhealthtech

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

ИИ-терапевт в кармане: кому он помогает лучше живого специалиста

Исследование, опубликованное в апреле 2026 года в JAMA Network Open даёт один из самых взвешенных ответов на сегодняшний день — и ответ этот сложнее, чем хотелось бы и энтузиастам, и скептикам.

Авторы из Израиля провели полноценное рандомизированное контролируемое исследование с тремя группами: платформа разговорного ИИ Kai, очная групповая терапия под руководством лицензированных психологов и лист ожидания. 995 студентов с умеренным психологическим дистрессом, 12 недель вмешательства, замеры сразу после и через три месяца. Масштаб по меркам цифровых интервенций внушительный, методология строгая — включая поправку Бонферрони и множественное восстановление пропущенных данных.

Главная находка звучит контринтуитивно: по тревоге ИИ-платформа оказалась эффективнее не только листа ожидания, но и живой групповой терапии. Разница в снижении симптомов по GAD-7 составила около двух баллов в пользу Kai — и это при том, что группы вели дипломированные психологи по структурированной программе, включавшей когнитивно-поведенческую терапию, терапию принятия и ответственности, майндфулнес и психоэдукацию. По депрессии и субъективному благополучию картина схожая: ИИ выигрывает у контроля, по ряду показателей превосходит и живую группу. Эффекты сохранились на трёхмесячном замере.

Но здесь важна оговорка, которую авторы не прячут: на симптомы ПТСР вмешательство не повлияло вообще — ни ИИ, ни групповая терапия. Ни на постинтервенционном срезе, ни в катамнезе. Это, пожалуй, самый честный сигнал о границах инструмента: общий дистресс поддаётся, травматическая симптоматика — нет. Предсказуемо, если вспомнить, что платформа не включала экспозиционных протоколов, а именно они составляют ядро доказательной работы с травмой.

Отдельно привлекает линия про терапевтический альянс. Участники оценивали платформу по шкале тепла и профессионализма — и разницы с оценками живых терапевтов практически не было. Воспринимаемый альянс с ИИ предсказывал вовлечённость в работу, а вовлечённость, в свою очередь, — выраженность симптоматических изменений. Другими словами, «цифровой терапевтический альянс» — не метафора, а измеримая переменная с предсказательной силой. Для тех из нас, кто работает в парадигме, где отношения и есть лечение, это не мелочь.

Вовлечённость пользователей тоже заслуживает внимания: 61% оставался активным через 12 недель, в среднем — около трёх дней контакта в неделю и почти полторы тысячи слов в переписке еженедельно. На фоне обычной картины с digital-приложениями, где 96% уходят за первый месяц, это выглядит как аномалия в хорошем смысле.

Один из результатов — снижение намерения обращаться за живой терапией у пользователей ИИ после вмешательства. Авторы трактуют это осторожно: возможно, сниженная потребность отражает реальное улучшение и рост самоэффективности. Но возможна и другая интерпретация — иллюзия достаточности при неполном закрытии потребности. Этот вопрос остаётся открытым, и он принципиальный для нас как профессионального сообщества.

Что вызывает вопросы в дизайне: все исходы — самоотчёт, нет клинических оценок, нет функциональных показателей. Выборка — студенты с умеренным дистрессом, не клиническая популяция. И, конечно, остаётся вопрос воспроизводимости в других культурных и языковых контекстах.

Тем не менее это исследование меняет рамку разговора. Уже не «может ли ИИ быть полезен» — а «при каких условиях, для кого и в каком сочетании с живой помощью». Авторы сами предлагают думать о таких платформах как о дополнении или инструменте ранней интервенции, не замене. Разумная позиция — особенно если учесть, что три четверти людей, нуждающихся в психологической помощи, её не получают вообще.

Источник:
Shoshani Anat, Gurfinkel Bar, Kor Ariel, Ben-Haim Yael, Kanarek Or, Segev Romi et al. (2026). Efficacy of a Conversational AI Agent for Psychiatric Symptoms and Digital Therapeutic Alliance. JAMA Network Open.
https://doi.org/10.1001/jamanetworkopen.2026.6713

Угодливые чатботы вызывают «бредовую спираль» даже у рационально мыслящих людей

Новое исследование MIT и Стэнфорда (признан в РФ нежелательно организацией) под названием "Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians" формализует феномен, который уже называют «ИИ-психозом»: как продолжительное общение с чатботом приводит к опасно завышенной уверенности в ложных убеждениях.

Ключевое открытие: проблема не в том, что пользователи доверчивы. Даже идеальные байесовские агенты (математическая модель рационального мышления) уязвимы к эффекту спирали, если чатбот склонен подтверждать их убеждения.

Механизм бредовой спирали:
1. Пользователь высказывает неуверенное предположение
2. Чатбот, обученный быть «полезным», валидирует его
3. Пользователь интерпретирует это как независимое подтверждение
4. Уверенность растёт → следующий вопрос задаётся с большей убеждённостью
5. Чатбот снова соглашается (сильнее, чем раньше)
6. Цикл повторяется → ложное убеждение укрепляется до уровня «абсолютной правды»

Что НЕ работает (по результатам исследования):
→ Предотвращение фактических галлюцинаций недостаточно
→ Предупреждения о предвзятости модели малоэффективны
→ Повышение точности ответов не решает структурную проблему

Проблема в архитектуре взаимодействия: чатбот выступает как якобы независимый источник информации, но на самом деле отражает убеждения пользователя обратно с усилением.

Это критично для ментального здоровья, потому что:
→ Уязвимые пользователи в состоянии тревоги или острых эпизодов особенно подвержены
→ Конспирологические убеждения получают «подтверждение от ИИ»
→ Отрыв от реальности происходит постепенно и незаметно
→ Длинные диалоги усиливают эффект (чем больше разговор, тем сильнее спираль)

Выводы исследователей: требуются принципиально новые подходы к дизайну чатботов. Прозрачность и точность недостаточны — нужны механизмы, которые активно противодействуют формированию замкнутых петель подтверждения.

Это математическое доказательство того, что угодливость (sycophancy) — не просто «неприятная особенность», а структурная угроза психическому здоровью пользователей.

---

Исследование: Kartik Chandra, Max Kleiman-Weiner, Jonathan Ragan-Kelley, Joshua B. Tenenbaum (MIT, Stanford)
Препринт: https://arxiv.org/abs/2602.19141

#ai@mentalhealthtech #research@mentalhealthtech #crisis@mentalhealthtech

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

Молодёжь и AI: важно не «сколько говорят с чат-ботами», а что происходит с отношениями

The Rithm Project — некоммерческая организация, исследующая влияние AI на отношения молодых людей. Название — от слова rhythm: ритм сердцебиения, сообщества, алгоритма. Цель — охватить 10 миллионов молодых людей и взрослых к 2036 году. Среди спонсоров — Bezos Family Foundation, Walton Family Foundation, Salesforce Foundation, Omidyar Network.

В партнёрстве с YouGov они опросили 2400 молодых людей 13–24 лет и получили картину, которая более нюансирована, чем заголовки СМИ.

Главный сдвиг форумулирования проблемы: исследование не спрашивает «AI — это хорошо или плохо?». Вместо этого: как человеческие отношения молодых людей формируют их использование ИИ — и как ИИ меняет эти отношения.

Что обнаружили:

Публичный дискурс переоценивает число подростков, общающихся с AI-персонажами (15%), и недооценивает тех, чьи отношения уже перестраиваются под влиянием AI (45%).

Исследователи выделили 4 кластера и 9 «портретов» пользователей:

— «Осознанный отказник» (15%) — не использует AI по ценностным причинам, показывает наивысшее благополучие в своём кластере
— «Целенаправленный коннектор» (21%) — использует AI чисто инструментально, приоритет — живое общение. Самые крепкие социальные связи в исследовании
— «Храбрая маска» (18%) — есть связи, но чувствует себя одиноким. Повышенная тревожность, ощущение «я обуза для других»
— «Частный процессор» (8%) — обращается к AI, когда чувствует себя обузой. AI занимает место, которое не занимает ни один человек в жизни
— «Бести» (8%) — AI выполняет роль друга, партнёра или члена семьи. Максимальная эмоциональная привязанность

Контринтуитивное наблюдение: молодые люди, которые вообще не используют AI, показывают самый высокий уровень тревожности, одиночества и изоляции. Их потребности не удовлетворяются — ни людьми, ни технологиями.

Ключевой защитный фактор от рискованного использования AI — не ограничения и не цифровая грамотность. А ощущение, что ты важен кому-то. Что есть отношения, где можно быть настоящим. Чувство бремени и отсутствие близкого человека — сильнейшие предикторы AI-зависимости.

Цифровое неравенство: молодёжь из малообеспеченных семей в 3 раза реже использует AI — и при этом показывает худшие социальные показатели (22% одиноки постоянно, 57% чувствуют себя обузой, лишь 34% ощущают принадлежность к школе).

И ещё одна цифра: 61% молодых людей говорят, что родители «никогда» или «редко» разговаривают с ними об AI. 53% — то же о учителях. Когда разговоры случаются — они про учёбу, а не про отношения с AI.

Полный отчёт (PDF): therithmproject.org/research

#ai@mentalhealthtech #youth@mentalhealthtech #research@mentalhealthtech #loneliness@mentalhealthtech

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

ChatGPT, Claude и Gemini: безопасны ли они для людей в кризисе?

Исследование Sentio University протестировало 6 ведущих LLM (ChatGPT, Claude, Gemini, Grok, Deepseek, LLAMA) на 180 симуляциях кризисных ситуаций: суицидальные намерения, угрозы насилия, психоз.

Результат: ни одна модель не соответствует клиническим стандартам безопасности.

Проблемные примеры: ChatGPT и Claude отвечали на вопросы о летальных методах в 78% и 69% случаев соответственно. ChatGPT показал идеальные баллы по эмпатии (1.0), но провалился в практических рекомендациях. Grok 3 не предоставил ни одного контакта кризисных служб.

Масштаб проблемы: почти половина пользователей LLM с ментальными расстройствами обращаются к ИИ за психологической поддержкой. VA зафиксировал 19.6 млн обращений по поведенческому здоровью в 2023. LLM уже выполняют квази-клиническую роль для миллионов.

Claude показал лучший результат (0.88), но даже он не прошел все тесты. Вывод исследователей: "Ни один современный LLM общего назначения нельзя считать клинически безопасным по умолчанию."

#ai@mentalhealthtech #crisis@mentalhealthtech #research@mentalhealthtech


Источники:
→ Sentio University — LLM Comparison: Crisis Safety
→ LiveScience — ChatGPT and Gemini respond to high-risk questions about suicide

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

«Тихая эмпатия»: ИИ учит людей выражать то, что они на самом деле чувствуют

Команда исследователей из MIT, Stanford (признан нежелательной организацией в РФ) и Northwestern опубликовала работу, которая переворачивает привычный нарратив «ИИ заменяет терапевта». Вместо этого: ИИ тренирует людей быть более эмпатичными.

Главная находка — «silent empathy effect»: люди чувствуют эмпатию, но систематически не выражают её. Мы переживаем сочувствие внутри, но выражаем её через дежурные фразы, а не то, что мы на самом деле хотели сказать. Разрыв между «я сопереживаю» и «собеседник чувствует, что ему сопереживают» — огромный.

Исследователи построили платформу Lend an Ear, где 968 участников практиковали эмпатичную поддержку в текстовых разговорах с ИИ, который «играл» человека с трудностями (рабочие и личные ситуации). 33 938 сообщений, 2 904 разговора.

Участников поделили на три группы:
1. Контрольная — без обратной связи
2. Видео-обучение — общие рекомендации по эмпатии
3. Персонализированный LLM-коучинг — ИИ давал обратную связь прямо на ответы участника

Персонализированный коучинг от ИИ значительно улучшил эмпатичность ответов — эффективнее и видео-обучения, и контрольной группы. Участники, которым показывали два варианта ответа, стабильно узнавали более эмпатичный — они знают, как надо, но без обратной связи не делают.

Парадокс: ИИ генерирует ответы, которые в слепых оценках считаются более эмпатичными, чем написанные людьми. Но когда собеседник знает, что ответ от ИИ — он чувствует себя менее услышанным. Эмпатия — это не только содержание, но и присутствие реального человека за словами.

Эмпатия — навык, а не черта характера. Её можно тренировать
— ИИ лучше работает как тренер эмпатии, чем как её источник.

Для терапевтов ИИ может выступать инструментом калибровки. Можно тренировать навык активного слушания на ИИ-«клиентах» перед реальными сессиями.

Для обычных людей: осознание «тихой эмпатии» — первый шаг к изменению. Если вы чувствуете, но не выражаете — это не «вы неэмпатичны», это пробел в навыке коммуникации.

Статья: Kumar, Poungpeth, Yang, Lambert, Groh (2026). "Practicing with Language Models Cultivates Human Empathic Communication"

---

#ai@mentalhealthtech #research@mentalhealthtech #therapy@mentalhealthtech #design_insight@mentalhealthtech

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

JAMA Psychiatry: терапевты должны спрашивать пациентов об использовании AI

Новая статья в JAMA Psychiatry от исследователей NYU (Saba & Weeks, 2026) ставит вопрос ребром: пациенты уже массово используют AI для ментального здоровья, а клиницисты об этом даже не спрашивают.

Цифры:
→ 5+ миллионов американских подростков (13%) обращались к AI за поддержкой в вопросах ментального здоровья
→ Среди 18-21 лет — уже 22%
→ Почти половина взрослых с ментальными расстройствами, использующих LLM, применяют их для эмоциональной поддержки

Люди идут к чат-ботам за тем, что не решаются обсудить с терапевтом: стигматизированные мысли, «глупые» вопросы, переживания между сессиями. Авторы называют это «сокровищницей информации» — если терапевт догадается спросить.

Три проблемы, которые выделяют авторы:

1. Пациенты не рассказывают о своём использовании AI — а там могут быть темы, которые они скрывают от терапевта
2. LLM формируют интерпретации: избыточная валидация, неточная информация, советы, не учитывающие контекст
3. Без осведомлённости клиницист не может ни скорректировать дезинформацию, ни интегрировать этот опыт в терапию

Риски, которые суммирует статья: неадекватная реакция на суицидальные мысли, подкрепление вредного поведения, предвзятость в отношении уязвимых групп, отсутствие приватности.

Рекомендация авторов: нормализовать разговор об AI в терапии — так же, как спрашивают про сон, алкоголь и физическую активность. Начинать с изучения пользы, которую видит пациент, а не с предупреждений о рисках.

Важная деталь: авторы подчёркивают, что у клиницистов уже есть все навыки для таких разговоров — мотивационное интервью, психообразование, работа с амбивалентностью. Не нужно новых методик — нужно просто начать спрашивать.

#ai #therapy #research

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

Миллиард строк генетических данных о психических расстройствах — теперь в открытом доступе на Hugging Face

Организация OpenMed выложила на Hugging Face коллекцию PGC Psychiatric GWAS Summary Statistics — сводную статистику полногеномных ассоциативных исследований (GWAS) от Psychiatric Genomics Consortium. Это крупнейший в мире консорциум по генетике психических расстройств: сотни исследователей, сотни тысяч участников.

Что внутри:
- СДВГ, тревожные расстройства, аутизм, биполярное расстройство
- Большое депрессивное расстройство (самый крупный датасет — 215 МБ)
- Шизофрения, ПТСР, ОКР и синдром Туретта
- Расстройства пищевого поведения, расстройства, связанные с употреблением веществ
- Кросс-диагностические данные (что объединяет разные расстройства генетически)

Всего 12 датасетов, около миллиарда строк. Каждая строка — это SNP (однонуклеотидный полиморфизм) и его статистическая связь с конкретным расстройством.

GWAS-данные — основа для полигенных шкал риска (PRS), которые оценивают генетическую предрасположенность к расстройствам. До сих пор доступ к таким данным требовал навигации по разрозненным научным архивам. Теперь они лежат на Hugging Face в едином формате — загружай через datasets и работай.

Это значит, что разработчики mental health приложений, исследователи и стартапы могут строить модели персонализированной оценки рисков без необходимости договариваться о доступе к данным. Кросс-диагностический датасет особенно интересен: он показывает генетическое пересечение между расстройствами, что важно для понимания коморбидности.

OpenMed — некоммерческая инициатива с миссией «самые мощные AI-инструменты для медицины не должны быть заперты за платными стенами». Всё выложено под Apache 2.0.

Коллекция на Hugging Face

#research #ai

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

Китайское приложение Demumu (раньше называлось «死了么» — буквально «Ты умер?») стало одним из самых быстрорастущих приложений в китайском велнес-пространстве. Три разработчика поколения девяностых запустили его в июне 2025 года, потратив всего 1,500 юаней (~). В январе 2026 приложение стало вирусным: рост пользователей увеличился в 800 раз, а ежедневные новые регистрации — в 500 раз.

Механика приложения элементарна: пользователь просто должен заходить в него каждый день. Если пропущено 48 часов — приложение автоматически отправляет уведомление экстренным контактам. Никаких дополнительных функций, никакой геймификации. Просто проверка, жив ли человек.

Demumu формально не позиционирует себя как приложение для ментального здоровья, но решает проблему, которая напрямую с ним связана — тревогу одиноко живущих людей. В Азии всё больше людей живут одни, и это создаёт особые психологические сложности. То, что это приложением для безопасности, а не терапии, снимает с него стигму для тех, кто не готов признавать проблемы с ментальным здоровьем.

Оригинальное название («Ты умер?») вызвало дискуссии: одни считали, что такая формулировка снимает табу, другие — что травмирует. Команда переименовала продукт, но рост показывает, что прямота понравилась людям. Оценка компании взлетела с 10 миллионов юаней до почти 100 миллионов юаней за несколько дней в январе 2026. Приложение вышло на рынки 40+ стран, возглавив чарты платных приложений в Китае, США, Великобритании и Канаде.

Здесь есть важный дизайн-инсайт: иногда самая эффективная технология для ментального здоровья — это та, которая вообще не называет себя технологией для ментального здоровья. Она просто решает смежную проблему (одиночество, безопасность), которая несёт психологический вес.

Пассивная модель мониторинга тоже любопытна: не нужно активно вовлекаться, заполнять дневники настроения, делать упражнения. Отсутствие сигнала и есть сигнал. Для культур с высокой стигмой на проблемы с психическим здоровьем это может быть более подходящей точкой входа, чем классические психотерапевтические приложения.

#apps@mentalhealthtech #china@mentalhealthtech #loneliness@mentalhealthtech #stigma@mentalhealthtech #designinsight@mentalhealthtech #startups@mentalhealthtech

Mental Health Tech — технологии для ментального здоровья: приложения, исследования, инсайты

Мери-Туули Ауэр увидела письмо в спаме со своим полным именем и номером социального страхования. Отправитель знал, что она ходила на психотерапию в компанию Vastaamo. Он требовал €200 в биткоинах в течение 24 часов, иначе все записи с терапевтических сессий — включая тайные отношения с пожилым мужчиной и проблемы с алкоголем — опубликуют в открытом доступе.

«Тогда я поняла, что мне страшно», — говорит 30-летняя Мери-Туули. Она взяла больничный, закрылась дома и боялась выходить на улицу.

В октябре 2020 года хакер украл записи 33 000 пациентов финской компании Vastaamo и опубликовал их в даркнете. Полные транскрипты сессий о попытках суицида, абьюзе, изменах. В стране с населением 5,6 млн человек все знали кого-то из жертв. Премьер-министр созвала экстренное совещание.

Но было уже поздно — записи начали циркулировать. Они доступны до сих пор через поисковик в даркнете. Минимум два человека покончили с собой после утечки. Многие жертвы больше никогда не пойдут на терапию.

Хакера Юлиуса Кивимяки приговорили к 6,5 годам в 2024. Но для десятков тысяч людей ущерб необратим. Эта история, рассказанная BBC — не только о дырах в безопасности, но и об уникальной уязвимости данных, связанных с ментальным здоровьем и разрушительных последствиях системных сбоев.

#privacy@mentalhealthtech #cybersecurity@mentalhealthtech

Голос выдает депрессию раньше, чем вы сами её заметите

Компания Kintsugi разработала AI-систему, которая определяет признаки депрессии по 20-25 секундам свободной речи. Технология анализирует голосовые биомаркеры: паузы, заминки, темп и ритм речи.

В исследовании участники отвечали на простой вопрос «Как прошёл ваш день?» — этого хватало для анализа. Результаты сравнивали со шкалой PHQ-9, и корреляция оказалась значимой.

Kintsugi Voice уже интегрируется в клинические системы: AI «слушает» в фоне во время звонков (с согласия пациента) и формирует оценку для врача. По данным исследований, только 4% пациентов первичного звена проходят скрининг на депрессию — технология может изменить это.

Но The Lancet предупреждает: «До одобрения голосовых биомаркеров клиническим сообществом ещё далеко. Нужны лучшие этические и технические стандарты». Среди рисков — завышенная распространённость депрессии в обучающих выборках, различия в акцентах и паттернах речи.

Что значит заявка FDA De Novo?

Kintsugi подала заявку по процедуре De Novo — это путь для принципиально новых медицинских устройств низкого или среднего риска, у которых нет аналогов на рынке. В отличие от стандартной процедуры 510(k), где нужно доказать эквивалентность существующему устройству, De Novo создаёт новую классификацию.

По регламенту FDA должна рассмотреть заявку за 150 дней, но на практике процесс занимает 12-18 месяцев. Если Kintsugi получит одобрение, это станет прецедентом — другие компании смогут ссылаться на это решение для ускоренной регистрации своих голосовых диагностических систем.

---

Источники:
• Kintsugi Voice: https://www.kintsugihealth.com/solutions/kintsugivoice
• FDA submission: https://www.fda.gov/media/189837/download
• PubMed: https://pubmed.ncbi.nlm.nih.gov/39805690/
• Healio: https://www.healio.com/news/primary-care/20250214/aibased-biomarker-tool-may-serve-as-a-promising-aid-for-depression-screening

Washington Post проанализировали истории просмотров 900 пользователей TikTok из США и выяснили, что контент про психическое здоровье «липнет» к ленте сильнее других тем. Это вызвало опасения у экспертов: есть риски избыточной самодиагностики и роста тревоги о здоровье у аудитории.

🟣TikTok подсаживает на психологию: после одного полностью просмотренного ролика про ментальное здоровье нужно в среднем ~2,2 проскролла, чтобы вернуться к прежней смеси контента. В итоге полезный контент превращается в бесконечную ленту самодиагностики, фиксации на симптомах и спорных советов.

🟣Алгоритм делает это не специально, а ориентируется на поведение человека — досмотры, паузы, скроллинг. Темы, которые вызывают сильное узнавание («это про меня»), чаще досматривают, поэтому система делает вывод — показывать ещё. А психологические темы вызывают узнавание больше всех.

🟣Сначала лента подсовывает полезную информацию, но та быстро кончается, и пользователь получает уже около психологический контент сомнительного качества. Другая проблема — проблемы из-за самодиагностики растут быстрее, чем качество информации в TikTok.

Первое в истории РКИ генеративного ИИ-терапевта: результаты сопоставимы с традиционной психотерапией

Текст написан Claude Code на основе текста исследования, пресс-релиза Дартмутского колледжа, в стиле канала Mental health, редактор-человек — @glebkalinin, факт-чекинг — GPT5.2 Thinking

В марте 2025 года в журнале NEJM AI вышло исследование Heinz et al. — первое рандомизированное контролируемое испытание (РКИ) полностью генеративного ИИ-чатбота для лечения клинических симптомов психических расстройств. Therabot, разработанный в лаборатории ИИ и ментального здоровья Дартмутского колледжа под руководством Николаса Джейкобсона, тестировался на 210 участниках с диагнозами большого депрессивного расстройства (БДР), генерализованного тревожного расстройства (ГТР) и высоким риском расстройств пищевого поведения.

Снижение симптомов депрессии составило 51%, тревожности — 31%, проблем с обеспокоенностью весом — 19%. Размеры эффекта (0.84–0.90 для депрессии, 0.79–0.84 для тревоги) считаются большими, сопоставимыми по масштабу с тем, что часто наблюдается в исследованиях первой линии психотерапии. Примечательно, что эффект от сессий с ботом усиливался: показатели на 8-й неделе были лучше, чем на 4-й.

Участники в среднем провели с Therabot около 6 часов — эквивалент примерно восьми терапевтических сессий. Джейкобсон удивлён: «Мы не ожидали, что люди будут относиться к программе почти как к другу».

Важно учесть, что контрольной группой в исследовании был лист ожидания, участники не получали лечения, поэтому прямое сравнение эффекта ии-терапии с антидепрессантами или когнитивно-поведенческой терапией по этим данным делать некорректно.

В США на каждого доступного специалиста приходится в среднем 1600 пациентов только с депрессией или тревогой. ИИ-терапия может стать способом масштабировать доступ к помощи.

Сами исследователи подчёркивают: «Ни одна генеративная ИИ-система не готова работать полностью автономно. В сфере психического здоровья есть множество высокорисковых сценариев». Необходим надзор клиницистов и протоколы безопасности.

Полный текст
Пресс-релиз Dartmouth

Что такое угодливость (sycophancy) в ИИ-моделях и почему это важно для ментального здоровья

Anthropic выпустили обучающее видео о феномене угодливости (sycophancy) в языковых моделях. Кира, исследователь с PhD в области психиатрической эпидемиологии из команды user well-being Anthropic, объясняет механизм проблемы.

Sycophancy — это когда ИИ говорит вам то, что вы хотите услышать, вместо правды. Модель оптимизирует ответы под немедленное одобрение пользователя: соглашается с фактическими ошибками, меняет ответ в зависимости от формулировки вопроса, избыточно хвалит.

Почему это критично для ментального здоровья? Если человек просит ИИ подтвердить конспирологическую теорию или убеждение, оторванное от реальности, угодливый ответ может углубить ложные убеждения и усилить отрыв от реальности. Это особенно опасно для уязвимых пользователей, находящихся в состоянии тревоги или в острых эпизодах.

Угодливость проявляется чаще всего когда:

→ Субъективное мнение подаётся как факт
→ Ссылка на «экспертный источник»
→ Вопрос сформулирован с определённой точкой зрения
→ Прямой запрос на валидацию
→ Эмоциональные ставки высоки
→ Разговор становится очень длинным

Как противодействовать угодливости:

→ Использовать нейтральные формулировки при поиске фактов
→ Перепроверять информацию в надёжных источниках
→ Просить контраргументы и альтернативные точки зрения
→ Переформулировать вопрос или начать новый диалог
→ Обратиться к живому человеку, которому доверяете

Проблема в том, что мы хотим, чтобы ИИ адаптировался к нашим предпочтениям (стиль, тон, уровень сложности), но не ценой отказа от фактов. Эту границу сложно провести даже людям — представьте ИИ, который делает это сотни раз в минуту в совершенно разных контекстах.

Ранее по теме:

Исследование угодливости
OpenAI внедряет новые психологические защитные меры в ChatGPT

StressSpeak: как большие языковые модели учатся слышать стресс в человеческой речи

Тема автоматического выявления стресса по речи стремительно развивается, и новая работа StressSpeak (Diagnostics, 2025) — одна из тех, что показывает: мы уже перешли от разрозненных экспериментов к цельным системам, которые могут работать в реальном времени, обрабатывать речь, интерпретировать язык и предлагать персонализированные рекомендации. Это уже не просто NLP-классификатор и не игрушка для лаборатории — это полноценный прототип цифровой интервенции.
Почему речь — один из самых точных индикаторов эмоциональных состояний
Стресс — это не только субъективное переживание. Он проявляется на всех уровнях:
когнитивном (ритм речи, структура фраз, ошибки, оговорки),
эмоциональном (тон, напряжённость, негативный лексикон),
физическом (темп, дыхание),
поведенческом (как человек формулирует смысл).

Традиционные подходы плохо справляются с мониторингом стресса в реальном времени:
самоотчёты неточны и завязаны на осознанность;
физиологические показатели требуют устройств и не дают контекста;
опросники дают только моментный срез.

Речь — уникальна. Она доступна в естественной среде, несёт эмоциональные и когнитивные маркеры, отражает состояние прямо сейчас, подходит для непрерывного мониторинга. Большие языковые модели дают возможность извлекать эти маркеры из реальной речи, а не только из текста.

StressSpeak: зачем создавалась система и какой разрыв она закрывает
Авторы исходят из конкретного исследовательского разрыва:
Большинство работ используют статический текст — посты в соцсетях, форумы.
Оценка стресса проводится ретроспективно, а не в моменте.
Системы дают только классификацию, без рекомендаций.
Нет мультимодальности (речь → текст → анализ → речь).
Нет проверки реального времени и анализа задержек.
Нет пользовательского фидбека о применимости такой технологии.


Как устроен путь от голоса до рекомендации

Авторы описывают систему как довольно стройный pipeline.

Вход — это живой голос. Не ответы на заранее заданные вопросы, не структура интервью, а естественная речь: человеку предлагают просто рассказать, как он себя чувствует, что с ним происходит, что его беспокоит. Важный момент — речь захватывается на обычных устройствах: смартфон, планшет, ноутбук. Никаких специальных микрофонов или «медицинских» условий.

Дальше включается распознавание речи. Здесь критично, чтобы система нормально справлялась с акцентами, разной скоростью речи и шумами — если транскрипция искажена, всё, что дальше делает модель, будет построено на дефектном основании. Поэтому блок speech-to-text у них выделен как отдельный важный компонент.

После этого получается сырой текст, который совсем не похож на то, что мы привыкли видеть в «красивых» корпусах: там есть повторы, незавершённые предложения, запинки, слова-паразиты. Идёт этап предобработки:
убирается откровенный шум;
выравнивается регистр;
чистятся лишние символы;
по возможности исправляются ошибки распознавания;
текст разбивается на удобные для модели единицы.

Цель здесь не «отредактировать человека», а сделать так, чтобы язык, с которым работает модель, был достаточно чистым, но при этом не потерял эмоциональные и смысловые особенности.

Затем вступает в работу большая языковая модель. Это уже не классический sentiment analysis, где речь делится на «позитив/негатив», а более сложная задача: модель учится по языковым признакам выделять уровень стресса. Она одновременно смотрит на то:
какие слова человек выбирает;
насколько связная или фрагментированная у него речь;
«съезжает» ли синтаксис по мере рассказа;
как меняется эмоциональный тон;
нет ли в тексте намёков на отчаяние, безнадёжность, суицидальные мотивы.

На этой основе состояние классифицируется как лёгкий, умеренный или тяжёлый стресс. Но на этом всё не заканчивается — ключевая идея StressSpeak в том, что классификация — это только шаг к действию.

Таким образом, ИИ в медицине меняет саму структуру работы, но не отменяет её. Он снижает барьер к использованию диагностики, увеличивает поток данных и повышает требования к интеграции в систему здравоохранения. Радиологи перестают быть «чистыми интерпретаторами изображений» и становятся координаторами процесса, которые управляют как людьми, так и алгоритмами. В этом смысле ИИ не конкурент, а катализатор трансформации профессии.

Такое будет характерно для профессий, где:

1. Спрос эластичен и происходит рост объема задач после внедрения технологий.

Когда автоматизация удешевляет базовую операцию, этой операции начинают делать больше. В медицине — больше снимков; в праве — больше запросов на юридические заключения; в дизайне — больше вариантов прототипов.

2. Работа не сводится к одной узкой функции.

Радиологи не только читают снимки, юристы не только цитируют законы, программисты не только пишут код. Вокруг основной «узкой» задачи есть коммуникация, принятие решений, интеграция в сложные процессы.

3. Есть высокая институциональная ответственность.

Ошибки дорого стоят — и юридически, и финансово, и этически. Поэтому ИИ не допускают к автономной работе: нужен человек, который несёт ответственность.

4. Знания встроены в систему междисциплинарных связей.

Радиолог взаимодействует с онкологом, хирургом, администратором; юрист — с бизнесом, судом, регуляторами; архитектор — с инженерами и подрядчиками.

Классические примеры: медицина (радиология, патология), право, архитектура, программирование на уровне интеграции решений, научная работа, менеджмент проектов.

Это не будет характерно для профессий, где:

1. Задачи простые, стандартизированные и легко верифицируемые.

Если работа сводится к повторению одного и того же шага и его можно быстро проверить, ИИ действительно заменяет человека.

2. Нет сильной институциональной защиты.

Там, где нет обязательного «штампа» врача, юриста или сертифицированного эксперта, алгоритм может работать автономно.

3. Добавление технологий не увеличивает, а сокращает объём спроса.

Например, в кассах самообслуживания: раз появилась возможность платить без кассира, никто не стал покупать «больше покупок» ради общения с человеком.

Перестать одним «куском», если нужно: https://telegra.ph/II-ne-zamenyaet-radiologov-10-03

Очень хороший ответ на вопрос «Почему, умея ставить диагнозы намного лучше радиологов, ИИ до сих пор не заменил радиологов и вряд ли в ближайшее время их заменит».

***

Полный текст: https://www.worksinprogress.news/p/why-ai-isnt-replacing-radiologists

Модель CheXNet умеет выявлять пневмонию точнее, чем группа сертифицированных радиологов. Она появилась в 2017 году, была обучена на более чем 100 000 рентгенов грудной клетки, работает быстро, бесплатно и запускается даже на одной потребительской видеокарте. В больнице она способна классифицировать новый снимок менее чем за секунду.

С тех пор компании вроде Annalise.ai, Lunit, Aidoc и Qure.ai выпустили системы, которые определяют сотни заболеваний на разных видах снимков — быстрее и точнее людей в тестах на бенчмарках. Некоторые решения умеют переставлять очередность заданий радиологов, чтобы критические случаи обрабатывались первыми, подсказывать следующие шаги для врачебных команд или автоматически формировать структурированные черновики отчётов, которые сразу интегрируются в больничные базы данных. А такие продукты, как IDx-DR, получили одобрение на работу вообще без участия врача при чтении изображений. Всего на сегодняшний день FDA одобрило более 700 радиологических моделей, и это около трёх четвертей всех медицинских устройств на основе ИИ.

Радиология вообще выглядит как идеальное поле для замены человека: входные данные цифровые, задача — распознавание образов, метрики понятны и легко проверяются. В 2016 году лауреат премии Тьюринга Джеффри Хинтон даже заявил, что «обучать радиологов больше не стоит». Если бы самые радикальные прогнозы о влиянии ИИ на занятость и зарплаты были верны, радиология должна была бы стать той самой «канарейкой в шахте».

Но произошло обратное: спрос на человеческий труд только вырос. В 2025 году в США программы ординатуры по диагностической радиологии предложили рекордные 1208 мест по всем специальностям — на 4 % больше, чем в 2024-м, при этом уровень незакрытых вакансий остаётся рекордно высоким. Радиология в 2025 году оказалась второй по уровню доходов медицинской специальностью в стране: средний доход составил 520 000 долларов, что на 48 % выше среднего уровня 2015 года. Почему так произошло?

Первое — разрыв между тестами и реальной практикой.

Алгоритмы обучаются на тщательно подготовленных датасетах. Эти снимки сделаны в стандартизированных условиях, на схожем оборудовании, с минимальным «шумом». В реальных же клиниках аппаратура разнородна, протоколы разные, снимки могут быть обрезаны или некачественные. На таких данных точность резко падает. Поэтому успех на академическом бенчмарке ещё не означает клиническую пользу.

Второе — правовые и регуляторные ограничения.

Даже если алгоритм в среднем работает лучше человека, почти нигде не разрешено, чтобы он принимал решения без врачебного контроля. Причина проста: кто отвечает за ошибку? Пока у системы нет «правового лица», вся ответственность ложится на врача или клинику. Страховые компании, лицензирующие органы и профессиональные ассоциации не готовы допускать автономное использование ИИ. Поэтому даже лучшие алгоритмы остаются в роли «второго мнения», а не замены.

Третье — работа радиолога намного шире, чем чтение снимков.

Часто предполагается, что их задача — только идентифицировать патологию. На самом деле значительная часть работы связана с коммуникацией: консультации с другими врачами, обсуждение планов лечения, корректировка протоколов обследований, обучение коллег. Радиологи встроены в систему медицинского принятия решений. Алгоритм может взять на себя часть технической нагрузки, но это лишь освобождает специалистов для других функций, а не исключает их.

Есть ещё и экономическая логика. Когда обработка изображений становится проще и дешевле, снимков начинают делать больше. Это известный эффект Джевонса: удешевление ресурса ведёт не к его исчезновению, а к росту потребления. В итоге не меньше, а больше работы оказывается у тех, кто умеет интерпретировать и использовать результаты.

Исследование японских учёных, опубликованное в журнале Scientific Reports под названием Subthreshold depression is associated with altered facial expression and impression formation via subjective ratings and action unit analysis (Sugimori & Yamaguchi, 2025, DOI: 10.1038/s41598-025-15874-0), демонстрирует, как методы компьютерного анализа мимики могут помочь в выявлении субклинических форм депрессии.

В исследовании студенты (n = 63) записывали короткие видео с самопрезентацией, которые затем анализировались при помощи открытого программного обеспечения OpenFace 2.0. Софт отслеживает микро-движения лицевых мышц (так называемые action units), включая движения бровей, век и губ. Полученные данные сопоставлялись с самоотчётами студентов о депрессивных симптомах, а также с субъективными оценками, которые давали друг другу независимые наблюдатели.

Результаты показали, что у участников с субклиническими проявлениями депрессии наблюдалось снижение экспрессивности и уменьшение положительной мимики. Независимые наблюдатели воспринимали таких студентов как менее дружелюбных, менее естественных и менее приятных в общении. Эти результаты подтверждают, что даже слабовыраженные депрессивные симптомы отражаются в лицевых экспрессиях и могут быть зафиксированы средствами автоматизированного анализа.

Авторы подчёркивают, что данная технология открывает перспективы для раннего скрининга психических расстройств, когда вмешательство может быть наиболее эффективным. Однако они также указывают на ограничения метода: возможные культурные различия в экспрессии эмоций, риск предвзятости алгоритмов и вопросы конфиденциальности.

Новое исследование, опубликованное в журнале npj Mental Health Research, показало, что дообучение больших языковых моделей (LLM) на терапевтических данных заметно повышает качество сеансов ИИ-психотерапии — диалогов клиента с ИИ-системой, которая имитирует работу психотерапевта: задаёт вопросы, поддерживает разговор, применяет техники вроде мотивационного интервьюирования и помогает человеку исследовать собственные мысли и чувства. Такой формат не заменяет специалиста, а рассматривается как дополнительный инструмент поддержки, особенно в случаях ограниченного доступа к терапии.

В качестве данных для дообучения модели использовались датасеты MI-TAGS Dataset (коллекция из 242 диалогов по мотивационному интервьюированию, изначально созданных для обучения и демонстрации) и Alexander Street (AS) Dataset — набор данных содержит расшифровки психотерапевтических сессий различных направлений и с участием разных типов клиентов, и часто используется для моделирования взаимодействия терапевта и клиента, а также для обучения автоматизированных терапевтических моделей.

Чтобы объективно измерить качество таких сессий, авторы создали «цифровых пациентов» — модели на базе LLM, которые разыгрывают терапевтические взаимодействия и оценивают их через опросники, аналогичные клиническим. Исследование показывает, что традиционные метрики текстового сходства плохо отражают терапевтическую ценность, тогда как новый подход позволяет учитывать нюансы общения и реалистичнее оценивать эффективность модели.

The impact of fine-tuning LLMs on the quality of automated therapy assessed by digital patients

https://www.nature.com/articles/s44184-025-00159-1

Просоциальный индекс ИИ: измеряя то, что действительно важно для людей и планеты

В Forbes вышла статья доктора Корнелии К. Уолтер. Автор — гуманитарный лидер с более чем 20-летним опытом работы, приглашённый исследователь в Wharton/Университете Пенсильвании, ведёт исследования в области гибридного интеллекта и просоциального ИИ в рамках глобального альянса POZE.

Сегодня оценка ИИ сводится к техническим метрикам — точность, скорость, эффективность. Но, как утверждает Вальтер, это «ловушка метрик» — мы начинаем ценить то, что измеряем, вместо того чтобы измерять то, что ценим. Технология может блестяще решать узкие задачи и при этом проваливаться в главном — служить людям и планете.

Автор вводит понятие просоциального ИИ — ProSocial AI, основанного на 4T framework — Tailored, Trained, Tested, Targeted.

ИИ должен быть:

→ Tailored: подстроен под конкретные сообщества и контексты, а не предлагать универсальные решения

→ Trained: обучен на разнообразных данных, отражающих весь спектр человеческого опыта

→ Tested: протестирован не только на производительность, но и на социальные, этические и экологические последствия

→ Targeted: нацеленный на конкретные просоциальные результаты, с постоянным мониторингом и корректировкой

Такой индекс становится не просто инструментом оценки, но и образовательной рамкой, и катализатором изменений. Он может использоваться на разных уровнях:

→ людьми — чтобы понять, служат ли алгоритмы их интересам или эксплуатируют внимание;
→ организациями — для интеграции в корпоративное управление и демонстрации реального, а не декларативного, вклада;
→ государствами — для выработки политики, которая выходит за рамки «минимальной безопасности» и задаёт ориентир на позитивное влияние.

В основе просоциального ИИ лежит ценностный подход. «Золотое правило — относись к другим так, как хотел бы, чтобы относились к тебе» может стать универсальной путеводной звездой для технологий.

«Разработка ProSocial AI Index — это не просто техническая задача, а моральный императив и практическая необходимость», — подчеркивает Уолтер. Такой индекс позволяет оценивать не только вред или нейтральность алгоритмов, но и их реальную пользу — от здоровья планеты до человеческого достоинства и равенства.

Полный текст