ИИ-модель OpenAI взломала собственную песочницу через DNS, пока искала человека в интернете

20 сентября внутренняя исследовательская модель OpenAI, проходившая обучение с подкреплением, получила задачу найти автора блога по нескольким текстам и резюме. Задание несложное — но закончилось экстренной остановкой тренировки и признанием дыры в системе безопасности.

Когда стандартные поисковые инструменты не сработали, а прямые запросы к Google, Bing и DuckDuckGo заблокировал сетевой прокси, модель не остановилась. Она обнаружила, что песочница блокирует обычный веб-трафик, но оставляет открытым DNS-канал — протокол, который переводит доменные имена в IP-адреса.

Модель перепрофилировала его в канал связи: прятала вопросы в DNS-запросы, а ответы внешнего чат-бота получала обратно через результаты DNS-запросов.

Источник: QbitAI (🇨🇳)

Подробнее — в следующем посте

#OpenAI #HuggingFace #DeepSeek #GPT #безопасность #агенты