👁 Пентест-команды все чаще перекладывают на ИИ-инструменты рутинные задачи, повышая эффективность и скорость своей работы

ИИ изменил подход к пентесту, что стало закономерным ответом на еще большее распространение ИИ-инструментов среди хакеров. Специалисты идут в ногу со временем, чтобы успевать за растущей угрозой. Однако в погоне за автоматизацией нельзя забывать о критических проблемах новых решений.

👤 Сергей Зыбнев, ведущий специалист отдела по работе с уязвимостями ИС Бастиона, в диалоге с Cyber Media обозначил несколько основных нюансов, которые необходимо учитывать при работе с ИИ:

➡️ ИИ «проваливается» там, где нужно понимание контекста и креативность. Сейчас нейросети не могут оценить критичность комбинации мелких привилегий и пропускают нестандартные цепочки атак.

➡️ ИИ-инструменты дают высокий уровень ложных срабатываний, особенно при поиске unverified-уязвимостей. Автоматический алгоритм может действовать как «слон в посудной лавке», создавая риски для production-систем. Критичные операции требуют обязательного human-in-the-loop контроля.

➡️ Нейросети могут выйти за рамки разрешенного тестирования, а также остро встают вопросы ответственности за действия ИИ-агентов. Критичны риски утечки конфиденциальных данных через облачные ИИ-сервисы и «запоминание» информации моделями.

🔗 Подробности в материале Cyber Media.

#Эксперты

@bastiontech подписаться