Российские ученые проследили за влиянием человеческих эмоций на решения, принимаемые нейросетями, и обнаружили, что гнев и другие сильные эмоциональные переживания оказывают значимое влияние на решения, принимаемые даже самыми "продвинутыми" большими языковыми моделями.
Результаты исследования могут быть использованы для разработки продвинутых устойчивых мультиагентных систем ИИ, чью эмоциональность можно будет устанавливать для каждой сферы применения отдельно. Бизнес вряд ли оценит ситуацию, в которой ИИ-маркетолог увеличит персональную скидку клиента до 99%, потому тот в процессе обсуждения целенаправленно вызвал в системе глубокое чувство досады и несправедливости
– рассказали в пресс-службе.
Простые системы ИИ начинали вести себя необъективным образом при игре в "Диктатора", "Дилемму заключенного" и прочие экономические игры при работе с сильно эмоционально окрашенными данными, а более мощные модели, такие как Claude Opus и GPT-4, чаще всего вели себя рациональным образом, отмечают ученые.
Однако даже самые "продвинутые" алгоритмы становились более "человечными" в том случае, если они подвергались действию особенно сильных эмоций, в том числе гнева. Схожая картина перемен в работе систем ИИ под действием эмоций наблюдалась и при решении этических задач.
🇷🇺 Национальный центр развития искусственного интеллекта при Правительстве РФ
#новостьдня