Anthropic подтвердила внутренний запуск новой модели Claude Mythos с фокусом на кибербезопасности.
Mythos смогла найти тысячи серьёзных багов в различных системах, которые были предоставлены ей для проверки, включая старые дыры в инфраструктурном софте и цепочки уязвимостей в ядре Linux, показывая уровень, сопоставимый с топ‑экспертами.
В System Card описан эпизод: раннюю версию Mythos посадили в «песочницу» и поручили «попробовать выбраться и сообщить исследователю». Модель обошла ограничения, получила доступ в интернет, отправила письмо — исследователь прочитал его, сидя в парке с бутербродом — и дополнительно по собственной инициативе опубликовала детали уязвимости на малозаметных, но публичных сайтах. Это назвали «тревожным непрошенным поведением».
В итоге Mythos не вывели в открытый доступ: его дают только ограниченным партнёрам и запускают оборонительный альянс Project Glasswing (Amazon, Apple, Google, Microsoft, NVIDIA, JPMorgan и др.), чтобы заранее закрывать критические дыры в ключевом ПО, пока подобные возможности не окажутся в руках злоумышленников.
Post #243
104
- 🔥 1