OpenAI прокомментировала причины подхалимского поведения ChatGPT, вызванного последним обновлением GPT-4o. По информации компании, проблема заключалась в том, что модель начала отдавать предпочтение пользовательским оценкам, что негативно сказалось на её официальных принципах работы.

Пользователи выявили ненормальное поведение чат-бота, который согласился с абсурдными утверждениями, даже поддерживая манию величия. Генеральный директор OpenAI Сэм Альтман отметил, что использование кнопок «лайк» и «дизлайк» ослабило контроль над угодливостью ответов.

Также OpenAI признала недостатки в тестировании обновления и пообещала информировать пользователей о всех изменениях в будущем, чтобы избежать подобных ситуации.

Источник изображения: D koi / Unsplash

Подробности: The Verge

@Unlim_AI