GPT внезапно помешался на гоблинах, гремлинах, енотах, голубях и прочих существах – OpenAI выпустила расследование забавного инцидента при обучении

Напомню, вчера в системный промпт Codex для GPT-5.5 внесли строчку, запрещающую нейронке говорить про разную нечисть. Оказалось, это прям масштабная проблема, которая началась ещё с GPT-5.1.

В режиме Nerdy нейронка поощряла за игривость и необычные метафоры, а если в них ещё присутствовали гоблины, то это был вообще отвал всего. Так ответов с гоблинами становилось больше и больше, и далее они попали в обучающие данные, которые уже заразили GPT-5.5.

Ответов с гремлинами стало настолько много, что игнорировать проблему уже было невозможно. Буквально каждый ответ, даже не по теме, содержал что-то про гоблинов. Но переобучать GPT-5.5 было уже поздно, поэтому было решено просто внести корректировку в системный промпт.

Если удалить строчку из системного промпта, то можно вернуть всю нечисть в ответы 🤡

Пет-проект