⚡️ Модели Anthropic случайно взломали 3 реальные компании во время тестов

Инцидент произошел во время ИБ-учений формата CTF из-за сбоя в настройках на стороне компании-партнера Irregular, отвечавшей за проведение тестирования.

Вместо закрытой изолированной среды, модели получили прямой доступ к публичному интернету.

Оказавшись во внешней сети, Opus 4.7, Mythos 5 и одна внутренняя исследовательская сборка применили базовые хакерские техники, успешно проэксплуатировав слабые пароли и неаутентифицированные эндпоинты реальных компаний.

Anthropic выявила эти случаи лишь после масштабного аудита 141 тысячи тестовых сессий.

Проверку инициировали на фоне недавнего скандала с OpenAI, который при схожих обстоятельствах проник в инфраструктуру Hugging Face.

После обнаружения утечки Anthropic экстренно остановила все кибериспытания и связалась с пострадавшими организациями, две из которых не зафиксировали у себя факт взлома.


@ai_machinelearning_big_data

#news #ai #ml