В феврале OWASP выложили альфа версию
❔ Зачем.
LLMSVS предлагает чёткие рекомендации "как безопасно реализовать LLM в своём приложении", если вы AppSec и вам необходимо внедрить LLM, но вы не знаете с чего начать - то это для вас.
В стандарте приведены рекомендации касаемо различных тегов:
🤔 Как правильно настроить конфигурации?
🤔 Как можно реализовать безопасный lifecycle?
🤔 Как можно митигировать риски, которые возникают в процессе обучения?
🤔 Как безопасно интегрировать в приложение ?
и т.д (70 рекомендаций)
В документе существует 3️⃣ уровня проверки безопасности.
LLMSVS Level 1 ‑ Basic Security:(Уровень где необходимо внедрять минимум рекомендаций по безопасности).
LLMSVS Level 2 ‑ Moderate Security(Уровень, где мы можем подразумевать, что мы создаём приложение, с персоналкой и уже в зависимости от этого применяем рекомендации).
LLMSVS Level 3 ‑ High Assurance Security(приложение которое является критически значимым).
К примеру, рекомендация:
😒:"(eng)//"For self‑hosted LLMs, ensure they are appropriately segregated within the network to prevent direct exposure to end‑users unless such access is required."
- применяется на уровнях L2 и L3, потому что подразумевается что есть значимые данные. (но не только в этом дело).
Ну и вот, компания, которая разработала этот стандарт - Lakera, собираются запилить вебинар о том, как пользоваться этим документом.
Скачать сам стандарт(совершенно бесплатно):
🖥 github