3 октября Антон Башарин, старший управляющий директор AppSec Solutions, выступил на конференции GIS DAYS 2025, где рассказал о росте внедрения ИИ в разных отраслях, возникающих рисках на всех этапах жизненного цикла моделей и о том, как обеспечить их безопасность с помощью матрицы угроз AI.
📊 Лидеры по внедрению ИИ:
Наибольшая активность отмечена в сфере высшего образования (72 %), за ним следуют ИКТ (70 %), финансовые услуги (63 %), медиа и СМИ (62 %) и топливно-энергетический сектор (58 %).
Главные выводы:
▶️ Матрица безопасности ИИ формирует проверяемые требования к моделям и мотивирует к практическим мерам по обеспечению их защищенности.
▶️ Процесс защиты моделей AI должен включать этапы: Выявить → Оценить → Защитить → Подтвердить доверие.
▶️ Для LLM подход DevSecOps превращается в MLSecOps, интегрируясь в процессы разработки и эксплуатации моделей.
▶️ Эффективно оценить защищенность ИИ-моделей можно с помощью инструментов, которые соответствуют современным моделям угроз AI.
Матрица безопасности ИИ — это практический инструмент доверия: угрозы формируются в проверяемые требования, а требования — в практические шаги по обеспечению защиты и уверенность, что система работает безопасно.
— отметил Антон Башарин.
Проверьте киберустойчивость ваших моделей с помощью AppSec.GenAI. Решение соответствует всем современным моделям угроз ИИ: OWASP Top 10 LLM, MITRE ATLAS, СБЕР.
➡️ Заказать демо
#Экспертиза_AppSec #AppSecGenAI #ИИ #AI_Security #Цифра_дня