Компания Anthropic опубликовала исследование по результатам анализа 832 аккаунтов, заблокированных за вредоносную киберактивность в период с марта 2025 по март 2026 года. Исследователи сопоставили действия злоумышленников с матрицей MITRE ATT&CK и пришли к выводу, что развитие ИИ уже заметно меняет ландшафт киберугроз.
🫡 Почему мне это интересно? Да потому что пара десятков коллег остались без подписки. Теперь мне ясно, что вы делали
Друзья, вы стали всё чаще использовать ИИ для действий после компрометации системы. Если раньше AI чаще помогал в фишинге и первоначальном проникновении, то теперь его активно применяют для поиска учётных записей внутри сети, повышения привилегий и латерального перемещения по инфраструктуре. Использование ИИ для account discovery выросло на 8,9%, тогда как AI-фишинг снизился на 8,6%. Благодаря ИИ даже относительно низкоквалифицированные злоумышленники способны применять почти столько же техник и тактик, сколько пентестеры на опыте. Более важным фактором становится то, насколько автономно организована атака и насколько глубоко ИИ встроен в цепочку принятия решений.
Самая интересная часть — кейс GTG-1002
Anthropic подробно описывает операцию, которую они считают самым опасным примером использования ИИ.
Злоумышленники:
🥰 запустили Claude Code на Kali Linux;
🥰 подключили pentest-инструменты через MCP;
🥰 использовали SSRF для проникновения во внутреннюю сеть;
🥰 собирали SSH-ключи;
🥰 вытаскивали токены из AWS Secrets Manager;
🥰 перемещались между системами;
🥰 архивировали данные перед эксфильтрацией.
При этом человек задавал только общую цель, а большую часть тактических решений принимал агент самостоятельно.
Кстати, авторы постов, описанных здесь, считают, что ATT&CK плохо описывает агентные атаки. Сейчас в ATT&CK есть техники вроде Credential Dumping или Lateral Movement, а надо «агент сам принял решение сделать следующий шаг" (оркестрация шагов атаки, принятие решений в реальном времени, выполнение без участия человека и тд).
То есть вопрос уже не в том, умеет ли атакующий писать эксплойты, а в том, насколько хорошо он умеет строить систему из:
🤥 LLM,
🤥 MCP-серверов,
🤥 pentest-инструментов,
🤥 памяти,
🤥 планировщика задач,
🤥 автоматического принятия решений.
Для AppSec это ещё один аргумент в пользу того, что скоро придётся детектировать не только отдельные техники ATT&CK, но и признаки агентного поведения (см. пост выше).
Все!
🫨