Оказывается, ИИ свойственны людские когнитивные искажения. Только сформированы они не эволюционно-психологически, а статистически.

Примеры.

‣ Эвристика доступности: вероятность выдачи факта пропорциональна его частоте в корпусе. Упоминаемые в медиа темы генерируются чаще, чем редкие академические работы.
‣ Эффект фрейминга: малейшая смена формулировки запроса («почему Х плох» vs «почему Х хорош») меняет сэмплирование токенов и ведёт к радикально иным ответам.
‣ Эффект присоединения к большинству: RLHF подталкивают модель к “популярным” мнениям, усиливая консенсус и подавляя нишевые взгляды.

Но чего я не ожидал, Эффект якоря (эвристика привязки) проявляется 1 в 1, как у людей. Примеры в скринах.
1. Если дать перемножить одни и те же числа и первым числом поставить большое, то и результат будет больше. И наоборот.
2. Называя цену в запросе, я формирую якорь у ИИ.