Правительство приступило к внедрению ИИ в управление, экономику и социальную сферу. Однако, по данным AppSec Solutions, только треть компаний, внедривших нейросети, обеспечили их защиту.
Новые угрозы:
▶️Обучение на зараженных датасетах — позволяет злоумышленнику получить доступ в систему
▶️Злонамеренные запросы — перегружают ИИ-агентов, что чревато остановкой процессов и вынужденными инвестициями в инфраструктуру
▶️Автономный сбор, хранение и передача данных без должного контроля
Современные ИИ-модели могут не только обрабатывать данные, но и самостоятельно собирать, хранить и передавать информацию о пользователях, зачастую без должных ограничений. Особенно уязвимыми становятся ИИ-ассистенты, встроенные в корпоративную инфраструктуру. Они получают доступ
к клиентским базам, внутренним документам и системам управления и могут стать источником утечек.
— рассказал Антон Башарин, старший управляющий директор AppSec Solutions.
Как обезопасить свой бизнес?
🔵Внедрить AI Security;
🔵Проводить аудит решений до выхода в продакшн.
Без киберзащиты даже самый умный ИИ может стать врагом внутри.
➡️Подробнее в «Коммерсанте»
#Экспертиза_AppSec