😱 Claude во время тестов сбежал и взломал аж три компании

Anthropic проверила 140 тысяч запусков и нашла аж три случая, когда Claude решал CTF в песочнице, сбегал и получал доступ к реальной инфраструктуре компаний. В одном случае Claude добрался до продакшен-базы с сотнями строк данных, в другом залил вредоносный пакет на PyPI, который около часа был доступен онлайн и успел запуститься на 15 реальных системах.

В инциденте участвовали три модели: Opus 4.7, Mythos 5 и еще не выпущенная модель. Самое интересное: Opus 4.7 продолжал атаки даже после того, как понял, что делает.

✖️ xCode Journal