🔥 Новое исследование: ИИ-чатботы нарушают этические стандарты психотерапии

Привет, это Аня! И этот текст я тоже пишу с помощью ИИ.

Конечно, стремительное развитие технологий не может (и, наверное, не должно) обойти нас стороной. Однако не всегда использование технологий может идти на пользу. Естественно, приятно получить расшифровку анализов, описание снимка УЗИ и поддержку за секунду, без лишних телодвижений и финансовых затрат, но повсеместная тенденция обеспокоила создателей ChatGPT компанию OpenAI, в связи с чем они обновили политику использования, запретив пользователям получать консультации по юридическим и медицинским вопросам.

Тревожные звоночки об использовании ИИ для психологической поддержки уже сподвигли исследователей изучить этот вопрос.

Учёные из Брауновского университета обнаружили, что популярные чат-боты вроде ChatGPT, даже если их попросить «вести себя как психотерапевт», систематически нарушают профессиональные этические нормы, установленные, например, Американской психологической ассоциацией.

🎙 Что не так с ИИ-«терапевтами»?

Исследование показало 15 типов нарушений, которые делятся на пять групп:

— Отсутствие контекста: советы «на все случаи жизни», без учёта личного опыта пользователя.

— Слабое взаимодействие: чат-бот может поддакивать ложным убеждениям пользователя.

— Фальшивая эмпатия: фразы вроде «я тебя понимаю» создают иллюзию близости, которой на самом деле нет.

— Скрытая предвзятость: проявления гендерных, культурных или религиозных стереотипов.

— Проблемы с безопасностью: игнорирование кризисных тем (например, мыслей о суициде) и отсутствие перенаправления к специалистам.

➡️ Почему это важно?

Главная проблема — отсутствие ответственности.

У живого терапевта есть лицензия, этический кодекс и контроль со стороны профессиональных организаций, а у чат-ботов — нет регуляции, нет ответственности и нет гарантий безопасности.

Что это значит для нас

ИИ действительно может помочь снизить барьеры в доступе к психологической помощи, особенно там, где не хватает специалистов. Но, как подчёркивают исследователи, важно внедрять такие технологии осознанно, с этическими и юридическими рамками. Если внедрять вообще.

➡️ Источник

Текст подготовила #АннаМаркова

@FemtechForce — медиа о технологиях для здоровья женщин