ИИ уничтожил «безопасность через неясность», но патчи от ИИ не работают

Искусственный интеллект (ИИ) уничтожает принцип «безопасность через неясность». Этот подход предполагал, что системы остаются защищёнными, пока их уязвимости скрыты. Организации полагались на него из-за нехватки ресурсов или самонадеянности, но теперь он устарел.

Разработчики и исследователи используют ИИ-агентов для поиска ошибок, включая старые и малоизвестные, что приводит к рекордному числу раскрытий уязвимостей и патчей. Это создаёт огромный бэклог для сопровождающих проектов. Злоумышленники также применяют ИИ для реверс-инжиниринга исправлений и поиска эксплойтов за считанные часы.

Эксперты выражают обеспокоенность по поводу безопасности критических операционных технологий (OT) и промышленных систем управления (ICS). Эти системы, исторически являвшиеся «чёрными ящиками» из-за использования редких протоколов и проприетарного оборудования, теперь могут быть атакованы без глубоких знаний специалистов. ИИ позволяет преступникам автоматизировать изучение таких систем и проводить деструктивные кибератаки.

Исследования показывают, что ИИ-сгенерированные патчи исправляют уязвимости лишь в 26% случаев, а в 53,9% случаев не устраняют проблему или создают новые. Эффективность ИИ-сгенерированного кода в целом составляет 56%. Эксперты отмечают, что проблема не в поиске уязвимостей, а в их приоритизации и устранении. Организации, фокусирующиеся только на поиске и исправлении ошибок без улучшения процессов, рискуют столкнуться с неразрешимым потоком уязвимостей.

Источник: The Register
@cbunit