Anthropic поделились первыми результатами по проекту Glasswing, в котором Claude Mythos находил баги в коде компаний-партнеров

Напоминаем, что проект был запущен всего полтора месяца назад. Но уже на данный момент вместе с примерно 50 партнерами с помощью модели было найдено больше 10 тысяч критических уязвимостей.

– Cloudflare нашел 2000 багов, из них 400 high/critical

– Mozilla нашла и исправила 271 уязвимость в Firefox 150

– Сами Anthropic просканировали больше 1000 опенсорсных проектов, и модель нашла 23 019 потенциальных уязвимостей. После независимой проверки 90.6% оказались реальными.

Например, в известной криптографической библиотеке wolfSSL Mythos обнаружил критическую уязвимость, которая могла позволить атакующему подделывать сертификаты и, например, сделать фейковый сайт банка, выглядящий легитимно.

Anthropic пишут, что скорость обнаружения увеличилась примерно в 10 раз, и теперь узкое место – это исправление. Пока что мейнтейнеры оказались перегружены, и некоторые даже просили Anthropic отложить disclosure, потому что им нужно время на патчи.

По поводу общего доступа к Mythos Anthropic пишут, что пока это все еще слишком опасно, но «мы уже работаем над более сильными защитными мерами, и как только они будут разработаны, мы будем рады выпустить модели класса Mythos в общий доступ».

www.anthropic.com/research/glasswing-initial-update