Вместе с АРПП «Отечественный софт» мы опросили более 50 российских компаний с собственной разработкой, как они используют и защищают ИИ.
📊 Что показало исследование:
▶️ ИИ используют все участники опроса, а базовый контроль его безопасности есть только у 23%.
▶️ С подтвержденными атаками официально столкнулись 4% респондентов, при этом более 90% организаций не проводили оценку угроз и не представляют, насколько уязвимы их модели.
▶️ Теневой ИИ есть в каждой компании выборки: в 41% сотрудники массово работают с внешними ИИ-чатами, в 59% частично.
▶️ Основные риски: утечки конфиденциальных данных, промпт-инъекции, утечки конфиденциальных данных через RAG-системы, обход встроенных ограничений, атаки на цепочку поставок ML и другие.
Безопасность ИИ сегодня — ключевое условие защищённого контура разработки ПО. Рынок внедряет ИИ быстро и при этом осознанно принимает непокрытый риск: технология уже встроена в бизнес-процессы многих разработчиков ПО. Уверен, что проведенное исследование поможет компаниям обратить внимание на вопросы защиты своих ИИ-систем и подготовить план действий для обеспечения кибербезопасности искусственного интеллекта.
— отметил Юрий Сергеев, генеральный директор AppSec Solutions.
➡️ Читайте исследование
🔠 Рассылка | МАКС
#AppSec_исследование #AISecurity