Как мы знаем из кино, чтобы найти преступника, надо мыслить как преступник. Применимо ли это для нейросетей? Руководитель группы по безопасной разработке 🌟Кросс технолоджис Антон Редько рассказал, как ИИ помогает обнаружить атаки, спроектированные ИИ.

Нейросети вычисляют атаки по косвенным признакам, которые почти невозможно незаметно подделать. Они используют методы обнаружения, основанные на анализе аномалий и статистических артефактах 🌟

💬 Для текста

ИИ-атаки, например фишинг от ChatGPT, часто бывают слишком грамотными, лишенными стилистических ошибок, характерных для человека. Другой моделью можно анализировать стилистику, сложность предложений и частоту использования слов для выявления «машинного» происхождения.

👨‍💻 Для вредоносного кода

Генеративные модели могут создавать уникальные варианты исполняемого кода. Защитные системы, обученные на огромных массивах вредоносного ПО, могут детектировать типичные структурные паттерны, даже если конкретная сигнатура еще не известна.

📊 Для трафика

ИИ-боты могут генерировать идеально человеческий трафик, но их поведение может быть статистически отличным от реальных пользователей: например, неестественно постоянная скорость кликов или отсутствие случайных пауз.

Кстати, интересный факт: у ИИ плохо с генерацией случайного — попробуйте попросить несколько нейросетей привести случайное число от 1 до 100 и сравните результаты.

#тренды