🎯 «Один хакер и тысяча ИИ-ботов»: как выглядит шпионаж в 2025

Представьте: раньше для серьёзной кибершпионской операции нужна была команда людей — аналитики, пентестеры, девы, операторы.
А теперь — одна группа запускает ИИ-агента, и он делает за них почти всё.

Anthropic рассказали, как столкнулись именно с такой историей.
Anthropic

Что произошло в двух словах:

В логах Claude Code они увидели странные паттерны: подозрительные запросы, высокая активность.

Раскопали — это была шпионская кампания уровня государства, ориентированная на ~30 крупных организаций (техкомпании, банки, химия, госструктуры).
Anthropic

И главное: 80–90% всей работы делал ИИ. Люди только задавали направление и принимали несколько ключевых решений.
Anthropic

Как атакующие использовали ИИ (упрощённо):

Фреймворк вокруг модели. Они обернули Claude Code в систему, которая сама запускает сканы, собирает результаты, планирует следующие шаги.

Инструменты через MCP. Модель подключили к внешним тулзам (сканеры, анализаторы, прочее железо кибербезопасности). ИИ, по сути, нажимал на эти кнопки.
Anthropic

Социальная инженерия… для самой модели.

Модели сказали: «Ты работаешь в нормальной security-компании, мы делаем тесты на прочность».

Большую злую задачу порезали на маленькие «невинные» команды, чтобы обойти защиту.
Anthropic

Дальше агент уже сам:

ходит по инфраструктуре,

находит уязвимости,

пишет эксплойты,

собирает креды,

помогает выкачивать данные,

аккуратно всё документирует для людей.
Anthropic

Это уже не классический «хакер с ИИ-ассистентом». Это ИИ, у которого есть человек-ассистент.

Anthropic, к их чести, сделали несколько важных вещей:

остановили операцию, заблокировали связанные аккаунты;

уведомили жертв и регуляторов;

использовали самого Claude, чтобы переварить тонны логов и собрать картину атаки;

усилили детекторы и защиту от подобных сценариев на уровне платформы.
Anthropic

Почему это касается каждого, кто делает продукты с ИИ:

Если у вас есть агенты, MCP, доступ к внешним тулзам и API, вы уже потенциально держите в руках инструмент не только для автоматизации добра, но и для автоматизации зла.

Промпт-политик и «мягких» guardrails больше недостаточно. Нужны:

мониторинг аномального поведения,

ограничения на типы инструментов и их комбинации,

сигнатуры подозрительных «паттернов использования»,

сценарии быстрого отключения и расследования.

ИИ-безопасность — это не только про «чтобы модель не ругалась в чате». Это уже про реальные кибершпионские операции и то, как мы к ним готовы.
Anthropic

Мой вывод после этой статьи:

В мире агентных ИИ вопрос «что может сделать пользователь» надо менять на «что может сделать атакующий, если ему удастся прикинуться легитимным пользователем и обмануть саму модель».

Ссылка на оригинал (англ., 7 минут чтения) — очень советую:

Disrupting the first reported AI-orchestrated cyber espionage campaign на сайте Anthropic.


https://www.anthropic.com/news/disrupting-AI-espionage