Кто и как должен регулировать ИИ для ментального здоровья — 3 идеи из Стэнфорда*

Привет! Меня зовут Ольга Титова, я AI Product Manager, выступаю за безопасный и этичный подход к ИИ, и регулярно делюсь с подписчиками Femtech Force новостями из мира ИИ и здоровья.

👁 Сегодня разберем материал Stanford HAI. Это итоги закрытого воркшопа для исследователей, клиницистов, регуляторов, разработчиков и представителей пациентских групп, прошедшего в июне 2026. По его результатам авторы сформулировали три проблемы, которые сейчас блокируют разумное регулирование AI для ментального здоровья.

Никто не договорился о терминах

Чат-бот, разработанный клиницистами, и ChatGPT, к которому человек пришёл в кризисе, — это одна категория или разные? В чем разница в регуляции этих инструментов?

🔶 Авторы приводят пять типов AI-приложений: универсальные LLM, компаньоны с ролью терапевта, не-медицинские wellness-приложения, специализированные LLM и инструменты для самих терапевтов.

Пока границы не проведены, законы могут работать совсем не так, как задумано. Например, запрет на использование ИИ практикующими психотерапевтами (такой закон приняли в Иллинойсе) не отменяет того, что люди пойдут за той же помощью к универсальным ассистентам и уже без всякого клинического надзора.

Нечем измерять

🔶 Чтобы что-то регулировать, надо уметь это измерять; однако, самые важные взаимодействия редки. Так, разговор, где человек в остром состоянии, случается в одном диалоге из многих тысяч, и воспроизвести его в тесте почти невозможно.

Данные переписок лежат внутри частных компаний, и механизма передать их независимым исследователям или регуляторам просто нет; даже разумное требование безопасности невозможно ни обосновать, ни проконтролировать, если ты не знаешь, как часто проблема возникает, с кем и с какими последствиями. 

Бизнес-модель

🔶 Самым недоисследованным вопросом авторы называют экономику. Продукты, оптимизированные под вовлечённость, структурно противоречат задаче формировать здоровые отношения с ботом. Это уже проходили с соцсетями: суды успели связать логику «удержать пользователя на платформе» с зависимостью и вредом для подростков. Бот, имитирующий близкие человеческие отношения, вероятно, работает так же, но ждать саморегуляции без внешних стимулов наивно.

Прямо сейчас реалистичны для выполнения в основном требования прозрачности (пользователь должен знать, что говорит с ИИ), протоколы на случай кризиса, защита данных, родительский контроль для несовершеннолетних. По этим пунктам согласие уже есть, и они же чаще всего попадают в законы об ИИ.

💥 Как это связано с женским здоровьем

Для девушек и молодых женщин это особенно актуально: по данным RAND в JAMA Pediatrics, девушки 12–21 года обращались к ИИ за советом о ментальном здоровье примерно вдвое чаще юношей, при этом 63,3% всех воспользовавшихся не говорили об этом никому.

*Деятельность Стэнфордского университета признана нежелательной на территории РФ

@FemtechForce — о технологиях для здоровья женщин

Текст подготовила #ОльгаТитова