На этой неделе хочу копнуть глубже: коснуться и поговорить о главных и самых эффективных врагах нашего критического мышления.
Когнитивные ловушки и искажения.
Я уже и не думал, что когда-либо вернусь в своих рассуждениях к этому великому автору и его главному источнику. Но нужда в этом явно появилась.
Нобелевский лауреат Даниэль Канеман — всем вам хорошо известен. Книга «Думай медленно, решай быстро» — самый большой источник знаний о когнитивных искажениях и ловушках, влияющих не только на наше экономическое поведение (этот вопрос поведенческой экономики интересовал Канемана прежде всего), но и на наши судьбы.
Опишу сегодня, на мой взгляд, самую опасную когнитивную ловушку, формирующую тот самый эффект персональной эхо-камеры и бесшовно заставляющую нас соглашаться с самыми первыми ответами LLM.
Якорение.
Это когнитивное искажение, при котором первая полученная информация (“якорь”) сильно влияет на дальнейшие оценки, решения и суждения. Даже если этот “якорь” случайный, люди склонны строить рассуждения и прогнозы, отталкиваясь от него.
Как работает якорение:
- При принятии решений первая увиденная цифра, мнение или факт задаёт рамку для дальнейших рассуждений.
- Даже если последующие факты более очевидны, установки, заданные якорем, сохраняют силу и влияют на финальный выбор.
Приведу классические примеры якорения из маркетинга:
- Презентация iPad: Стив Джобс сначала озвучивал завышенную цену (999 долларов), а затем резко снижал её до реальной (499 долларов) — воспринимаемая ценность iPad моментально возрастала на фоне первого “якоря”, и аудитория начинала считать такую цену выгодной.
- Манипуляции ценовыми слухами: государство распространяет информацию о грядущем повышении налога на 10%. Когда потом озвучивают реальное повышение в 2%, оно кажется совершенно незначительным на фоне первого якоря, и реакция граждан оказывается более спокойной.
- Благотворительность: если сбор начинается с крупного пожертвования (например, 1 млн. рублей), остальные участники склонны жертвовать заметно больше, чем обычно, ориентируясь на якорь.
Представляете, как на нас влияет первый ответ LLM, отправленный нам так быстро и с такими убедительными формулировками?
Как бороться с персональной эхо-камерой и получать максимально выверенные ответы языковой модели — в моих постах с конкретными промтами. И в качестве общей рекомендации — исходить из того, что LLM может ошибаться примерно - всегда.
Канеман считал, что алгоритмы свободны от когнитивных искажений, свойственных человеку.
Оказывается, он ошибался. Выяснилось, что самые продвинутые языковые модели тоже страдают от присущего людям искажения: модели зациклены на своём первичном ответе — якорении.
Об ИИ-искажениях поговорим в следующих постах.
Рекомендую старую добрую книгу Даниэля Канемана «Думай медленно, решай быстро» — к новому раунду прочтения и изучения столь сильно влияющих на наши жизни когнитивных искажений и ловушек.
Ваше критическое мышление — выиграет!
#Канеман #ПоведенческаяЭкономика