Картинка для привлечения
Исследования про доверие к ИИ и воспринимаемую убедительность ответов фиксируют фундаментальный сдвиг: ИИшки перестали быть инструментом, которому мы доверяем условно, - они стали источником, которому мы доверяем по умолчанию, потому что они говорят быстро, гладко и уверенней. При этом наши внутренние критерии ЭТО ПРАВДА/ЭТО НАДО ПРОВЕРИТЬ перестраиваются под новые эвристики, которые ИИшки для нас же и "формируют".
При достаточном уровне когнитивной перегрузки мы уже не анализируем содержание - мы реагируем на форму и стиль подачи. ИИшки "используют" это против нас: нейросетки используются для открытых задач, где правильность неочевидна, а пользователь не может проверить внутреннюю логику и полагается на на поверхностные сигналы:
🔻Эвристика уверенности: люди склонны доверять уверенным источникам. Наше эволюционное прошлое не подготовило нас к интерпретации уверенности от не-человека. У нас есть тысячелетия практики в чтении человеческих сигналов неуверенности, но в коннекте с сетками таких сигналов нет - ИИшки всегда звучат одинаково уверенно.
🔻Эффект социальной репутации (парадокс авторитета источника): чем выше социальная репутация ИИ, тем больше люди склонны на него полагаться, даже когда знают о его ошибках. Кроме того, доверие к ИИ зачастую проецируется от доверия к бренду-разработчику (OpenAI, Grok, Anthropic), а не к самой модели.
🔻Снижение эпистемической бдительности: когда ИИшка ведёт себя как человек, мы автоматически снижаем защиту. Это работает даже без осознания - антропоморфизм не всегда влияет на доверие напрямую, но он создаёт среду, где другие эвристики работают эффективнее. Чем более человечным кажется ИИ, тем больше мы предполагаем, что его ответы корректны, независимо от их реальной надёжности.
🔻Эффект автоматизации: мозг воспринимает алгоритм как объективного арбитра, лишенного человеческих слабостей (усталости, предвзятости, эмоций). Мы склонны игнорировать собственные знания в пользу ответа машины, считая её нейтральной. Кроме того, доверие к ИИшке часто возникает не из-за её компетентности, а из-за недоверия к людям. Мы доверяем ИИ, потому что устали от человеческой предвзятости.
🔻Иллюзия контроля: интерактивность создаёт впечатление, что мы управляем системой, но это зачастую иллюзия. Хороший промпт влияет на качественный вывод, но если пользователь не понимает, как работает модель, сама отзывчивость ведёт к ложной уверенности в результате.
🔻Атрофия проверки: чем больше мы доверяем ИИ, тем меньше мы тренируем навыки проверки, и постепенно мы теряем способность отличать правду от убедительной лжи. Не потому что мы глупеем, а потому что мы перестаём практиковать #критмыш.
Ничего не забыл? 🤔
#ИИ #импульсивность
