Однако, его распространение уже привело к серьёзным киберинцидентам.
Как отмечают в Palo Alto, хотя большинство компаний разрешает сотрудникам применять инструменты вайб-кодинга, «очень немногие» достаточно осведомлены об их безопасном использовании. Этот пробел уже повлёк утечки данных, интеграцию произвольного кода и атаки с обходом аутентификации.
Чтобы помочь решить некоторые из этих проблем и предоставить клиентам возможность оценки рисков, эксперты Unit 42 разработали новую систему управления безопасностью — SHIELD. Пользователям были даны пошаговые рекомендации:
- Разделять обязанности, предотвращая конфликты интересов путём распределения критически важных задач и не допуская их предоставление ИИ-агентам.
- Обеспечивать контроль при принятии важных решений, включая обязательную проверку кода человеком и требование одобрения запроса на слияние перед объединением кода.
- Проверять очистку подсказок отделением доверенных инструкций от недоверенных данных с помощью защитных механизмов перед их вводом в инструмент кодирования, включая применение статического тестирования безопасности приложений после разработки и перед слиянием.
- Внедрять модели вспомогательных средств, ориентированных на безопасность: использование ИИ-помощников со встроенными механизмами защиты и/или специализированных агентов, предназначенных для автоматической проверки безопасности приложений, написанных посредством вайб-кодинга.
- Предоставлять системам GenAI только минимально необходимые разрешения.
- Внедрять превентивные меры обнаружения и блокировки угроз: анализ состава ПО компонентов перед их запуском и отключение автоматического выполнения, обеспечивающего участие человека и вспомогательного агента в развёртывании.
🔥 — не нужно бояться ИИ, нужно учиться им управлять