🥸 OpenAI поставила frontier-RL на паузу из-за киберрисков

18 августа OpenAI сообщила, что будущая модель Astra может достичь критического уровня возможностей в кибербезопасности. Компания на две недели остановила RL-обучение последних моделей, а крупнейший запланированный запуск пока не возобновила.

Для моделей с инструментами добавили многоступенчатый мониторинг: классификаторы проверяют каждый сэмплированный токен, а отдельные системы анализируют действия, рассуждения и попытки обойти защиту. Это требует около 20% дополнительного inference compute.

Для тебя вывод практический: агент с доступом к коду и интернету — уже привилегированная нагрузка. Ему нужны песочница, сетевая изоляция, минимальные права, журналирование и автоматическая остановка. Расходы на мониторинг тоже придётся закладывать в инфраструктурный бюджет.

Пруф: разбор OpenAI от 18 августа 2026 года

#ai #llm #agentsecurity #cybersecurity #infrastructure #openai

@data_engi