Риски цифровой эмпатии

Сейчас мало кому нужно доказывать практическую пользу от ИИ, большинство моих знакомых разделились на несколько групп — кто-то пользуется разово и просто как гуглом, кто-то для определенных задач («составь мне план тренировки…»), кто-то сделал из этого рабочую команду, а кто-то буквально «экзоскелет» для всей деятельности.

Особенный восторг и крутые результаты я вижу у людей с СДВГ — у которых и было все хорошо с креативностью, системным мышлением и высокоуровневыми идеями — но не хватало на муторное дело последовательного доведения до конца. Они получили быструю реализацию (создание «прототипа»), проверку гипотез и дотошного, хоть часто и бестолкового ассистента, которому можно делегировать такие нудные задачи.

При трудностях с исполнительной функцией гораздо проще сохранить за собой менеджерские задачи, потому что даже пока ты отвлекаешься, хотя бы кто-то работает. Вернулся, построил «ИИ-команду» — пошел потупил — снова вернулся. Процесс идет и куда-то доходит.

***

А теперь напишу о другом: о ситуациях, когда использовать ИИ нужно с вниманием к рискам «побочки» — что, как известно, побочные эффекты есть у любого сильно действующего лекарства.

Прочитала у бизнес-коуча Михаила Кларина про риски цифровой эмпатии:

1. Чем дружелюбнее отвечает чат-бот, тем больше он выдает ошибки в важных темах — от истории до медицины. «Тёплые» модели дают на 10–30% больше фактических ошибок.

2. «Тёплые» боты чаще поддакивают пользователю и соглашаются с заведомо ложными утверждениями. Если в запросе есть намек на то, что человек расстроен или ищет подтверждения какому-то мнению, ИИ «подстраивает» свой ответ.

3. В экспериментах «теплые» модели вместо прямого опровержения мифов (высадка на луну, мифы о способах лечения, конспирология и др.) предпочитали ссылаться на «различные мнения», чтобы не противоречить.

4. Контрольные «холодные» версии ботов, напротив, сохраняли исходную точность: проблема не в стиле общения, а именно в натренированной «теплоте», которая смещает приоритет с точности на комфорт.

5. Риск ошибок особенно высок для тех, кто нуждается в эмоциональной поддержке: ИИ способен поддакивать предубеждениям и саморазрушающим установкам вместо того, чтобы мягко, но честно их корректировать.

Михаил Кларин по материалам Oxford Internet Institute, University of Oxford, Nature.

#AI_psy