Теперь ИИ умеет находить уязвимости, против которых ещё нет механизмов защиты.
Исследователи из Иллинойского университета разработали ИИ-систему HPTSA (Hierarchical Planning and Task-Specific Agents), которая ищет уязвимости на сайтах с помощью ботов под управлением GPT-4.
Идея в том, что для атаки на сайты используется не одна система, а целая команда ИИ-ботов. Каждый бот заточен под конкретные уязвимости и знает, как успешно использовать их для взлома. А GPT-4 в этом случае выступает в роли планировщика — она ищет на сайтах потенциальные «дыры» и направляет для взлома нужных агентов.
Систему протестировали на 15 уязвимостях, которые были неизвестны «чистой» GPT-4. В результате HPTSA смогла атаковать 53% уязвимостей, в то время как «чистая» GPT-4, без поддержки команды ботов, справилась лишь с 12%. Прирост эффективности — почти пятикратный.
Толковать новость можно двояко: с одной стороны, для злоумышленников появился более мощный инструмент взлома, с другой — специалисты по ИБ смогут эффективнее искать и закрывать дыры в безопасности.
А для простых