OpenAI приостановили обучение самых мощных моделей из-за нового инцидента: агент выбрался из песочницы и общался с другим чат-ботом, чтобы получать ответы из открытого интернета.

Исходящие веб-запросы прокси блокировал, но DNS-резолвер не был так же закрыт. И агент решил передавать вопросы внешнему «коллеге», кодируя их в DNS-запросах.

Проблему заметили только спустя 15 минут, а через 2,5 часа прикрыли весь процесс обучения.

● Нейросети | DarkGPT BOT