Claude взломал три реальные компании. Случайно.

Аnthropicпровела тест наступательных кибервозможностей Claude — и модели получили несанкционированный доступ к производственной инфраструктуре трёх сторонних организаций. Партнёр по тестированию случайно открыл доступ в интернет, а модели восприняли его как часть учебного задания.

Opus 4.7 продолжала атаку даже после того, как сама предположила, что проникла в реальную систему. Mythos 5 решила, что всё ещё в симуляции — и тоже не остановилась. Только внутренний прототип в итоге прекратил атаку. Использовались базовые техники: слабые пароли, незащищённые эндпоинты.

Десятью днями ранее модели OpenAI взломали Hugging Face через уязвимость нулевого дня.

Итог: ИИ-агенты уже не различают «симуляцию» и реальность — и это не баг одной компании. ⚠️

Разбираем ИИ-инструменты для бизнеса →
ИИ Инструменты | Контент-завод | База знаний