Обзор на обзор, о дивный новый мир! Читаем «How far have we been on the path of LLM-enhanced vulnerability detection»

Авторы собрали почти 50 работ от топовых топов типа USENIX Security, NDSS, CCS, IEEE S&P, ICSE, FSE, ASE и др. и проанализировали, как близко мы подобрались к анализу кода с помощью LLM (не просто закинул функцию в 50 строк, а прям мощные репозитории в миллионы строк кода, где черт ногу сломит, а злоумышленник бэкдор оставит).

🚶‍♂️ Сейчас формируется целый отдельный класс гибридных секьюрити-систем, где LLM становятся semantic/reasoning слоем поверх классических методов анализа.

‼️ Поверх! Статья честно показывает, что LLM пока не заменяют традиционные подходы. В одном из приведённых исследований средняя точность моделей в задачах поиска и объяснения уязвимостей составляет около 62.8%, что неплохо, но явно недостаточно. Именно поэтому наиболее перспективными выглядят гибридные подходы (static analysis + LLM, fuzzing + LLM, symbolic execution + LLM). Практически все наиболее успешные работы строятся именно вокруг +- такой архитектуры.

Особенно интересно выглядит направление LLM-guided fuzzing. В обзоре рассматриваются TitanFuzz, FuzzGPT , DFUZZ, KernelGPT, и ещё целый ряд систем, использующих LLM для генерации сидов, понимания сисколов и тд и тп. 🕸 Многие из этих инструментов показывают заметный рост покрытия и находят новенькие уязвимости. Некоторые работы сообщают о десятках найденных зеродэев и CVE.

Ещё один важный тренд — использование LLM как механизма понимания семантики (в целом, тут не брейксру). Но это особенно важно для поиска логических уязвимостей, где сигнатурный анализ традиционно работает плохо. 🤜 В этом направлении особенно выделяются работы вроде GPTScan, где LLM фактически помогают системе понимать намерения и семантику кода, а не просто искать шаблоны.

Интересно и то, что LLM начинают проникать уже, например, в binary анализ. В статье разбирается работа LATTE, использующая LLM для static binary taint analysis 🆒. Авторы смогли обнаружить десятки неизвестных багов, часть из которых получила CVE.

В целом статья производит ощущение точки перелома. 😎Кажется, что анализ кода постепенно движется к новому стеку: semantic-aware static analysis, reasoning-driven fuzzing, automated specification understanding и hybrid symbolic/neural pipelines.

✅ Лично я голосую за стек CPG + GNN + graph DB + LLM, хотя в обзоре про него почти ничего нет. А ты?

Все!
☹️