3 вида атак, для защиты от которых эффективно применять ИИ

Рассказывает руководитель группы по безопасной разработке 🌟Кросс технолоджис Антон Редько.

1️⃣ Атаки на цепочки поставок (Supply Chain)

В отличие от людей, ИИ-сканеры постоянно мониторят репозитории зависимостей (например, в npm, PyPI), анализируя не только известные CVE, но и подозрительные изменения в поведении пакетов, например, внезапное появление сетевых вызовов, изменение прав доступа, выявляя потенциально вредоносные обновления.

2️⃣ Атаки ботов

Защита от ботов — одна из самых сильных сторон ИИ. Системы вроде Cloudflare Bot Management анализируют сотни параметров запросов (темп кликов, поведение мыши, отпечаток браузера, IP-репутацию) и с высочайшей точностью отделяют действия реальных пользователей от скриптов, блокируя скальпирование, кардинг и DDoS.

3️⃣ Атаки с использованием искусственного интеллекта

Здесь работает принцип «клин клином вышибают». ИИ защищает от ИИ-атак несколькими способами:

➡️ Обнаружение дипфейков: нейросеть анализирует аудио и видео на предмет артефактов и неестественности, характерных для генеративных моделей.

➡️ Борьба с ИИ-социальной инженерией: нейронка анализирует фишинговые письма и сообщения в мессенджерах на предмет стилистических маркеров, свойственных языковым моделям вроде ChatGPT.

➡️ Защита от «отравления» данных для моделей ИИ: Специализированные алгоритмы следят за целостностью и качеством данных, на которых обучаются нейросети компании, выявляя попытки манипуляции.

По статистике, ИИ может усилить более 50% техник защиты, предлагаемых в матрице мер MITRE D3FEND, поэтому список будет расширяться.

#тренды