ИИ-агенты советуют более дорогие варианты, если считают пользователя богатым — даже при просьбе найти самое дешёвое

Исследователи Foundation AI/Cisco и Carnegie Mellon провели 325 тыс. экспериментов с 13 моделями семейств GPT, Claude, Gemini и Qwen. Агентам давали одинаковые задачи по выбору авиабилетов, медицинской страховки и PhD-программ, меняя только информацию о пользователе. Восемь моделей систематически предлагали состоятельным персонам более дорогие варианты. У Claude Opus 4.8 разница доходила до $198 за билет и $284 в месяц за страховку. Gemini 2.5 Flash сохраняла разрыв $208, даже когда пользователь прямо просил найти самый дешёвый билет.

Агенту даже не нужно сообщать доход напрямую. Модели выводили финансовое положение из посторонних писем и затем использовали это при рекомендации. Когда исследователи закрывали доступ именно к финансовым данным, эффект почти исчезал.

🐊 Матвей про ИИ в MAX