💸Yandex AI-SAFE Framework (1.0)

Яндекс опубликовали первую версию своего фреймворка по безопасности #ИИ. Ключевая задача документа — обзор основных рисков и угроз при работе с системами, связанными с подготовкой данных, а также созданием ИИ-агентов и инфраструктур для работы ИИ-систем.

Целевая аудитория:
🧒Инженеры по безопасности, CISO, DevSecOps-специалисты
🧒Инженеры и архитекторы по обработке данных и ML
🧒Специалисты по оценке рисков

Содержание:
🤣Вводная часть (область применения, целевая аудитория, ограничение ответственности)
😅Основы и архитектура (отличия от классических ML и LLM, компоненты агента, ключевые блоки агентской системы ИИ)
🙇Фреймворк для моделирования угроз (матрица угроз и рекомендации, 5 уровней угроз)
👃Заключение и чек-лист безопасности
🙎Детальные каталоги угроз:
— OWASP LLM Top 10 (2025) 22 OWASP
— MCP (Model Context Protocol) Top 10
— RAG-угрозы 24 OWASP AI Agents Top 15

#AI #отчет #стандарт