Чем больше компаний внедряют генеративные модели, RAG и ИИ-агентов, тем больше способов их атаковать. Чтобы помочь разработчикам учитывать эти риски, Сбер выложил в открытый доступ обновлённую модель угроз для ИИ-систем.
🌟 Что внутри?
🤩 37 актуальных угроз
🤩 51 сценарий их реализации
Для каждой атаки описаны последствия — от утечки данных и компрометации моделей до несанкционированных действий ИИ-агентов. А также нарушаемые свойства информации, связанные объекты и этапы жизненного цикла.
Модель поможет разработчикам, MLOps-инженерам, архитекторам и специалистам по кибербезопасности выявлять риски ещё на этапе проектирования и выстраивать безопасные ИИ-системы.
Забрать модель в открытом доступе можно на портале «Кибрарий» ↖️
✔️ Подписывайтесь на Sber AI в МАКС