👀 Чат-бот поддакивает из-за непонимания культурного контекста

77% американских психологов уже сталкивались с пациентами, которые используют ИИ для поддержки ментального здоровья, а треть таких пациентов считают чат-бота полноценным дополнительным специалистом.

Культурные нюансы это еще полбеды. Настоящая проблема в том, что чат-бот не отличает понимание от одобрения. Для него благодарный отклик человека равен правильному ответу, поэтому вместо помощи начинается потакание. При этом новые и более крупные модели проявляют стигматизацию по отношению к людям с шизофренией и алкогольной зависимостью, дают неадекватные ответы в терапевтических сценариях. Хуже всего чат-боты работают с теми, кто наименее понятен им с точки зрения культуры.

Базовый навык плохого друга освоен — говорить только то, что хотят услышать.

😀 Пожалуй, лучший канал о маркетинге в Telegram и в MAX