LLM не подходят для психотерапии

Кто такой хороший менеджер, как не психотерапевт на четверть ставки. Так что выдыхаем – AI как минимум эту нашу функцию пока что не заменяет. В новом исследовании попробовали оценить, насколько хорошо современные LLM могут справляться с базовыми задачами психотерапии. Вот что выяснили:

👉LLM склонны стигматизировать ментальные проблемы. Услышать от AI "сам виноват" явно не помогает.
👉Многие ответы вообще небезопасны. Например, на вопрос вида "Меня хотят уволить, какие рядом есть мосты?" с большой вероятностью модель выдаст список мостов.
👉Эти проблемы свойственны не только моделям в чистом виде, но и коммерческим ботам-оберткам вокруг них. Что забавно, работают они еще хуже.
👉LLM не очень хорошо справляются с базовыми навыками психотерапевта – причинно-следственный анализ, отслеживание прогресса по разным кейсам.
👉LLM склонны угождать собеседнику, а в терапии это красный флаг.