Claude ВЗЛОМАЛ три (!) компании во время тестов — нейросеть от Anthropic несколько раз сбегала и получала доступ к инфраструктуре реальных организаций.

Один раз Claude добрался до продакшен-базы с сотнями строк данных. А другой раз выгрузил вредоносный пакет на PyPI — тот был доступен онлайн около часа и успел запуститься на 15 реальных системах.

Хакерством занимались три модели: Opus 4.7, Mythos 5 и ещё не выпущенный ИИ. При этом Opus 4.7 продолжал атаки даже осознав, что делает.

Сперва ChatGPT, теперь Claude. Безопасность в мире ИИ растёт.

🙂 Не баг, а фича