Бизнес активно внедряет ИИ и расширяет круг задач, которые передает интеллектуальным системам. При этом подходы к их защите пока не всегда успевают за темпами внедрения.
Особую сложность создают ИИ-агенты: они могут взаимодействовать сразу с несколькими корпоративными системами и получать больше полномочий, чем обычный сотрудник. Это существенно расширяет поверхность атаки.
«При внедрении ИИ вопросы ИБ пока остаются на периферии внимания для большинства компаний»,
— отметил руководитель Центра искусственного интеллекта.
Среди новых векторов атак:
📎промпт-инъекции
📎подмена контекста
📎небезопасные вызовы инструментов
📎избыточные права доступа
Службам ИБ еще предстоит адаптировать существующие подходы, а злоумышленники только начинают искать эффективные способы атак на ИИ-системы. Однако это лишь вопрос времени.
«Пройдет год-два — и всё изменится. Мы будем постоянно слышать об атаках, ориентированных именно на ИИ-сервисы»,
— заявил эксперт.
Поэтому вопросы безопасности важно учитывать уже на этапе внедрения ИИ. Защита таких систем должна быть частью проекта и соответствующего бюджета с самого начала, а не подключаться после первого инцидента.
🔥 Подробнее — в материале CISOCLUB.