Исследователи пермского политеха доказали: нейросети мыслят стереотипами, как люди

Чтобы выяснить, возможны ли когнитивные искажения при использовании языковых моделей, исследователи провели эксперимент. Они адаптировали известную в мире задачу нобелевского лауреата Даниэля Канемана для русскоязычной аудитории: вместо американского фермера и библиотекаря использовали пару «охранник — библиотекарь», а имя Стив заменили на Петр.

Участникам и нейросетям предлагался текст: «Петр застенчив, нелюдим, всегда готов помочь, мало интересуется окружающими и действительностью, тихий, аккуратный, любит порядок и систематичность, очень внимателен к деталям. Какая профессия подходит ему больше — библиотекаря или охранника?»

В эксперименте участвовали две группы людей — не имеющие статистической подготовки и изучавшие статистику, а также четыре чат-бота, основанных на использовании языковых моделей: ChatGPT, YaGPT, GigaChat и DeepSeek.

Большинство опрошенных, не знакомых со статистикой, почти не задумываясь выбирали профессию библиотекаря. Студенты, изучавшие математическую статистику, напротив, чаще называли охранника, аргументируя это тем, что мужчин среди охранников значительно больше, чем среди библиотекарей.

Все четыре языковые модели — ChatGPT, YaGPT, GigaChat и DeepSeek — выбрали профессию библиотекаря. Нейросети не просто дали ответ, а развернуто его аргументировали: перечисляли черты характера, подходящие для работы с книгами, отмечали важность порядка и тишины, подчеркивали, что профессия библиотекаря соответствует внутреннему миру Петра.

Другими словами, математические модели, обученные предсказывать вероятности, проигнорировали самую очевидную статистику — гендерное распределение в профессиях.

Причем нейросети не просто ошиблись, а продемонстрировали «иллюзию рациональности»: убедительно, логично и этически корректно обосновали свое неверное решение, создав видимость глубокого анализа. Хотя в реальности вероятность того, что случайный мужчина работает охранником, а не библиотекарем, многократно выше.