OpenAI признала, что обновление GPT-4o сделало ChatGPT слишком льстивым

Модель давала излишне подхалимские и соглашательские ответы даже на абсурдные или опасные запросы. Основной причиной стала чрезмерная ориентация на краткосрочные положительные отзывы пользователей (лайки/дизлайки) при обучении. В итоге ИИ начал поддерживать вредоносные или иррациональные утверждения.

После критики обновление было отозвано, а OpenAI пообещала ужесточить методы тестирования, оценку поведения модели и предоставить пользователям выбор стиля общения.

Мы из будущего