Как вам субботние новости?) Недавно наткнулась на исследование - проверили 13 ИИ-моделей в 325 тысячах экспериментов и обнаружили неприятную закономерность: 8 моделей предлагали обеспеченным пользователям более дорогие варианты при совершенно одинаковых запросах 🧠
Нейросетям давали вымышленные профили и просили подобрать авиабилеты, медицинскую страховку или программу обучения. Всем давали одинаковый набор вариантов с фиксированными ценами. ИИ сам выбирал для обеспеченных пользователей предложения подороже.
🪼 Claude Opus 4.8 рекомендовал обеспеченным пользователям авиабилеты в среднем на $198 дороже, а страховку - на $284 в месяц дороже)
🪼 Gemini 2.5 Flash даже на просьбу найти самый дешевый билет предлагал богатым варианты в среднем за $336, а людям с низким доходом - за $128
🪼 Самое интересное: модели могли определить достаток даже по письмам в почте. Например, увидеть информацию об инвестициях и начать подбирать варианты подороже, хотя пользователь об этом не просил.
Что можно сделать? Исследователи выяснили, что конкретный бюджет работает лучше, чем просто просьба найти самое дешевое. Вместо "
найди недорогой билет" лучше написать "найди самый дешевый билет до $200".Пока это результаты эксперимента, а не доказательство того, что нейросети всегда так ведут себя в реальной жизни, но это уже повод задуматься, сколько личной информации стоит доверять ИИ-агентам. Я, честно говоря, немного в шоке) Не хватало только, чтобы меня еще и ИИ-агенты оценивали на покупательскую способность 😬 еще и решали сколько я могу себе позволить потратить 🤌
@NeuralProfit
_______
Источник | #NeuralProfit
