OpenAI готовит Astra к релизу

Fable 5.1 только вышла, а в Твиттере уже куда больше ждут Astra от OpenAI. Компания выложила большой пост про подготовку модели к релизу и впервые присвоила своей модели уровень Critical по кибербезопасности.

Модель такого уровня уже может сама искать неизвестные уязвимости в хорошо защищенных системах, писать под них рабочие эксплойты и проводить атаку, получив только общую задачу.

В тестах Astra набрала 100% на ExploitBench. В одном из внутренних тестов она сама нашла две zero-day уязвимости в движке Chrome и смогла их использовать. В другом взломала защищенный браузер, вышла из sandbox и получила возможность выполнять команды на машине, а в тесте с защищенной ОС собрала цепочку уязвимостей и повысила права от обычного пользователя до root.

По тестам OpenAI Astra заметно выросла и в поиске уязвимостей, при этом тратит на такие задачи меньше выходных токенов. Компания также пишет о сильном росте в agentic coding, остальные крупные бенчмарки пока оставили на сам релиз.

Релиз Astra частично задерживали из-за этих возможностей, дорабатывали защиту после истории со взломом Hugging Face, а 28 августа снова запустили крупный этап обучения модели. Сейчас OpenAI говорит, что релиз уже скоро.

Продвинутые возможности Astra для кибербезопасности сначала будут доступны небольшой группе, потом доступ начнут постепенно расширять (но увы речь не про нас простых смертных). В ChatGPT и Codex также появится дополнительный контроль длинных задач: система сможет остановить подозрительный сценарий и попросить пользователя подтвердить продолжение.

Детали: https://openai.com/index/path-to-astra/