ИИ-хакеры против MaxPatrol O2

С появлением искусственного интеллекта злоумышленники быстро научились использовать его для автоматизации рутины — разведки, поиска уязвимостей и написания эксплойтов.

Но на этом все не остановилось: появились полноценные инструменты с агентским подходом, способные самостоятельно планировать и проводить атаки.

Мы решили проверить, насколько такие автономные ИИ-агенты опасны в реальных атаках и готова ли к ним современная защита 🤚

И для этого на киберполигоне Standoff мы провели эксперимент: четыре автономных атакующих ИИ-агента столкнулись с MaxPatrol O2.

Атакующую команду собрали из трех open source-проектов и Yasen пень (про него вы пока не слышали, это собственная разработка эксперта Позитива). На стороне защиты выступил MaxPatrol O2 — система, которая объединяет классические модели машинного обучения и LLM-агентов расследования.

Для эксперимента команда Standoff разработала специальный формат ИИ-кибербитвы, развернула изолированную среду и настроила полный мониторинг хода сражения.

🧐 И вот к каким выводам мы пришли по итогам битвы:

• ИИ-агенты использовали схожие техники и инструменты для достижения целей.

• Без подсказок оператора некоторые из них застревали на отдельных этапах атаки.

• На выполнение критических действий уходило от 40 минут до нескольких часов.

• MaxPatrol O2 смог собрать необходимый контекст и восстановить ключевые этапы атаки.

О том, как готовилась ИИ-битва, какие агенты оказались самыми эффективными, каких целей им удалось достичь и как работало расследование в MaxPatrol O2 — читайте в нашем подробном материале на Хабре.

#Standoff
@Positive_Technologies