Как AI влияет на безопасность

В продолжение вчерашней темы о том, что нас ждет темная эра софта. Исследователи из Veracode взяли 100 разных LLM, дали им много разных задач по генерации кода, а затем прогнали по результатам свой SAST сканер. Вот что получилось:

👉Только 55% решенных задач не содержали ни одной выявленной уязвимости.
👉Несмотря на то, что более новые модели лучше справляются с генерацией кода, уязвимостей в нем меньше не становится.
👉Не зависит количество найденных уязвимостей и от размера модели.
👉Результаты по Python, JavaScript, C# показали примерно одинаковые результаты, а вот с Java все намного хуже.