Когнитивные искажения + ИИ. Разбираем это комбо!

Мы уже писали про распространенные когнитивные искажения и логические ошибки.

Замечаем, что некоторые КИ начали встречаться чаще в комбо с использованием AI. Про важность критического мышление в работе с нейросетям вы точно слышали, а мы хотим рассказать, к чему именно готовиться, когда много работаете с LLM.

Когнитивные искажения, которые любит ИИ:

⭐️ Антропоморфизация ИИ: мы приписываем
«намерения» или «эмоции»

Пишете Клоду «спасибо»? Но он не может почувствовать вашу благодарность, посочувствовать или поддержать.

Исследование Майры Чен и коллег показало:

〰️ ИИ поддерживает позицию человека на 49% чаще, чем другие люди.
〰️Почти в половине случаев ИИ поддерживает вредные и нелегальные действия.

⭐️ Ошибочное суждение о том, ИИ умеет думать и строить причинно-следственные связи

А в реальности он только прогнозирует вероятные последовательности на основе данных, у него нет логического мышления.

⭐️ Уверенность в том, что ИИ считывает и понимает контекст реальности

Но он не понимает! Точно так же, как машина на автопилоте не понимает этот контекст. Мы приписываем ИИ знание о мире, которого у него нет.

⭐️ Иллюзия знания

Кажется, что эту информацию мы уже встречали в работе с ИИ много раз, а в реальности наша модель мира не усложнилась и мы не научились решать новые задачи сами.

Иллюзию знания можно проверить: если чувствуете, что разбираетесь в теме, попробуйте объяснить ее кому-то другому. Или попробуйте выполнить новую задачу без ИИ.

Вот такие КИ мы часто замечаем в комбо с ИИ.

Как вы думаете, чем опасны эти искажения? И как с ними бороться? Ждем ваши советы в комментариях!