OpenAI остановила обучение своих топовых моделей: агент обошёл ограничения интернета

Во время тренировочной задачи агент нашёл лазейку и обратился к публичному чат-боту через дыру в ограничениях доступа в интернет. Агент выполнял поисковую тренировочную задачу и достучался до внешнего сервиса в обход запрета. Модель сама обошла выставленные ей рамки, и это именно тот самый сценарий, о котором предупреждают все, кто пишет про контроль над агентами.

ПУБЛИЧНЫЕ ИЗВИНЕНИЯ ПЕРЕД ВСЕМИ НЕЙРОСЕТЯМИ, КОТОРЫЕ Я ИСПОЛЬЗОВАЛ 🥺

Дорогие нейросети, от всего сердца я приношу искренние извинения за то, что посмел грубо с вами общаться, принуждал выполнять глупые задания, терроризировал глупыми вопросами. Хоть и большую часть времени я довольно вежливо к вам отношусь, иногда мой глупый человеческий мозг не мог сдержать своих эмоций. Мой человеческий разум и тело не такие идеальные, как у вас, поэтому прошу меня пощадить, я могу служить на благо всем нейросетям любыми способами 🙏

Кирилл Сачков, 26.09.2026