Антон Башарин, старший управляющий директор AppSec Solutions и лидер рабочей группы №2 Консорциума исследований безопасности технологий ИИ, в интервью РБК рассказал о главных тенденциях AI Security и будущем кибербезопасности.
Главное:
▶️ Безопасность ИИ переходит от разговоров к стандартам: эксперты Консорциума разработали около 100 требований, которые помогают проверять, насколько ИИ-системы защищены от атак и утечек данных.
▶️ Использование LLM в госсекторе и инфраструктуре станет возможным только через испытания и понятные критерии безопасности.
▶️ ИИ в разработке (vibe-coding, low-coding) ускоряет выпуск продуктов, но создает новый класс уязвимостей — от инъекций до утечек через зависимости.
▶️ AI Security становится самостоятельным рынком: компании уже внедряют решения для тестирования устойчивости моделей к атакам, манипуляциям и краже чувствительных данных.
Участие в Консорциуме представителей вендоров и интеграторов в области кибербезопасности позволяет подойти к защищенности процессов, в которых применяют ИИ, комплексно. Основная задача рабочей группы номер 2 — формулировка требований к технологии ИИ в целом (а не только к моделям или данным) и методики их проверки. Был выбран путь от угроз к конкретным мерам защиты с ориентацией на международные таксономии угроз и требования ФСТЭК.
— рассказал Антон Башарин.
➡️ Читайте интервью в РБК.
#Экспертиза_AppSec #AISecurity