Почему с ИИ мы начинаем "путать реальность"

Недавнее исследование "The AI Memory Gap: Users misremember what they created with AI or without" показывает неожиданную вещь: люди искренне не помнят, что сделали сами, а что с помощью ИИ.

👀 Это не про недобросовестность или лень, а про когнитивный эффект, т.е. чем глубже ИИ встроен в повседневные процессы (работа с текстами, анализ, решения), тем менее различима граница между "моё" и "сгенерировано" и тем хуже работает память об источнике.

Участников исследования попросили определить источник "это сделали вы" или "это сделал ИИ".
▪️ Особенно плохо помним, кто автор идеи ( без ИИ - 92.4% точности, c ИИ 79.3%, в смешанных сценариях провал до 37.7%);
▪️ Тексты различать проще, чем идеи, но даже здесь точность снижалась при участии ИИ (до ~89%) и ухудшалась в смешанных сценариях (~79–80%).
▪️Точность распознавания "что вообще было сделано" падает с 97.6% до 87.9% при использовании ИИ.
▪️ Участники думали, что справляются лучше, чем на самом деле (особенно в части идей до +12%).
▪️При повторных ответах участники становились более уверенными, даже если их воспоминания оставались неверными.

😳 Но это только вершина айсберга. Речь идёт о системном эффекте, подтверждённом исследованиями:
▪️Мы всё чаще доверяем "мыслить" ИИ, в результате хуже запоминаем и меньше анализируем.
▪️Создается иллюзия компетентности, люди переоценивают, насколько хорошо они понимают результат работы ИИ.
▪️Мы склонны доверять ответу системы даже там, где он ошибочный.
▪️Чем сложнее задача, тем больше полагаемся на ИИ, но тем хуже проверка результата.
▪️Снижается критическое мышление, без структурированного взаимодействия с ИИ (подсказок) падает глубина рассуждений.

❕Риск, связанный с ИИ, смещается в повседневную практику и затрагивает не только технологии, но и когнитивные процессы пользователя ("снижение когнитивной автономии"). Человек всё чаще полагается на ИИ не как на инструмент, а как на источник суждений, и начинает частично заменять им собственное мышление.

📌 Что почитать:
🔹From Offloading to Engagement: An Experimental Study on Structured Prompting and Critical Reasoning with Generative AI;
🔹AI, Metacognition, and the Verification Bottleneck: A Three-Wave Longitudinal Study of Human Problem-Solving;
🔹Outsourcing cognition: the psychological costs of AI-era convenience;
🔹AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking

#UXWatch
————
@pattern_ai | AI GDPR Navigator