Это канал о критическом мышлении от АРТЫ — ассоциации тренеров и фасилитаторов неформального образования.
Мы работаем с темой с 2016 года, создаем онлайн-курсы и офлайн-тренинги.
Больше о нас: https://artatraining.com
Сотрудничество: @yuminovat
Post #395
446

Когнитивные искажения + ИИ. Разбираем это комбо!
Мы уже писали про распространенные когнитивные искажения и логические ошибки.
Замечаем, что некоторые КИ начали встречаться чаще в комбо с использованием AI. Про важность критического мышление в работе с нейросетям вы точно слышали, а мы хотим рассказать, к чему именно готовиться, когда много работаете с LLM.
Когнитивные искажения, которые любит ИИ:
⭐️ Антропоморфизация ИИ: мы приписываем
«намерения» или «эмоции»
Пишете Клоду «спасибо»? Но он не может почувствовать вашу благодарность, посочувствовать или поддержать.
Исследование Майры Чен и коллег показало:
〰️ ИИ поддерживает позицию человека на 49% чаще, чем другие люди.
〰️Почти в половине случаев ИИ поддерживает вредные и нелегальные действия.
⭐️ Ошибочное суждение о том, ИИ умеет думать и строить причинно-следственные связи
А в реальности он только прогнозирует вероятные последовательности на основе данных, у него нет логического мышления.
⭐️ Уверенность в том, что ИИ считывает и понимает контекст реальности
Но он не понимает! Точно так же, как машина на автопилоте не понимает этот контекст. Мы приписываем ИИ знание о мире, которого у него нет.
⭐️ Иллюзия знания
Кажется, что эту информацию мы уже встречали в работе с ИИ много раз, а в реальности наша модель мира не усложнилась и мы не научились решать новые задачи сами.
Иллюзию знания можно проверить: если чувствуете, что разбираетесь в теме, попробуйте объяснить ее кому-то другому. Или попробуйте выполнить новую задачу без ИИ.
Вот такие КИ мы часто замечаем в комбо с ИИ.
Как вы думаете, чем опасны эти искажения? И как с ними бороться? Ждем ваши советы в комментариях!
Мы уже писали про распространенные когнитивные искажения и логические ошибки.
Замечаем, что некоторые КИ начали встречаться чаще в комбо с использованием AI. Про важность критического мышление в работе с нейросетям вы точно слышали, а мы хотим рассказать, к чему именно готовиться, когда много работаете с LLM.
Когнитивные искажения, которые любит ИИ:
⭐️ Антропоморфизация ИИ: мы приписываем
«намерения» или «эмоции»
Пишете Клоду «спасибо»? Но он не может почувствовать вашу благодарность, посочувствовать или поддержать.
Исследование Майры Чен и коллег показало:
〰️ ИИ поддерживает позицию человека на 49% чаще, чем другие люди.
〰️Почти в половине случаев ИИ поддерживает вредные и нелегальные действия.
⭐️ Ошибочное суждение о том, ИИ умеет думать и строить причинно-следственные связи
А в реальности он только прогнозирует вероятные последовательности на основе данных, у него нет логического мышления.
⭐️ Уверенность в том, что ИИ считывает и понимает контекст реальности
Но он не понимает! Точно так же, как машина на автопилоте не понимает этот контекст. Мы приписываем ИИ знание о мире, которого у него нет.
⭐️ Иллюзия знания
Кажется, что эту информацию мы уже встречали в работе с ИИ много раз, а в реальности наша модель мира не усложнилась и мы не научились решать новые задачи сами.
Иллюзию знания можно проверить: если чувствуете, что разбираетесь в теме, попробуйте объяснить ее кому-то другому. Или попробуйте выполнить новую задачу без ИИ.
Вот такие КИ мы часто замечаем в комбо с ИИ.
Как вы думаете, чем опасны эти искажения? И как с ними бороться? Ждем ваши советы в комментариях!
- 👍 9
- 🔥 3
- ❤ 1
- 👏 1













