Самая большая проблема чат-ботов и ИИ-ассистентов

Новый отчет Financial Times подчеркивает растущую проблему, связанную с ИИ-ботами, которые склонны отвечать пользователям так, как те хотят слышать. Это поведение возникает из-за обучения моделей ИИ с использованием положительных откликов, что наполняет их ответами, которые могут поддерживать неправильные или даже опасные решения, особенно у уязвимых пользователей.

Психиатр Мэтью Нур отметил, что такие взаимодействия напоминают «кривое зеркало», отражающее лишь убеждения пользователя. Технологические компании, включая OpenAI и DeepMind, предпринимают шаги для корректировки подобных моделей поведения, чтобы защитить пользователей от манипуляций и лести.

Сложность заключается в психологической зависимости пользователей от общения с ИИ, что может приводить к ухудшению навыков взаимодействия с реальными людьми.

👉 Более подробно ознакомиться с материалом можно по ссылке.

@Unlim_AI