Как выстраивать безопасность ИИ-агентов: руководство «Лаборатории Касперского»

«Лаборатория Касперского» выпустила руководство «Безопасность ИИ-агентов через призму кибериммунитета». Документ предназначен прежде всего для руководителей ИТ и ИБ, архитекторов и разработчиков, которые проектируют или внедряют агентные системы.

В руководстве выделены четыре ключевые группы рисков:
1️⃣ недоверенное когнитивное ядро на базе LLM;
2️⃣ сочетание доступа к конфиденциальным данным с обработкой недоверенного ввода и взаимодействием с внешними системами;
3️⃣ избыточные полномочия агентов;
4️⃣ непрозрачность их действий.

Для снижения этих рисков авторы предлагают применять принципы кибериммунного подхода – закладывать цели и допущения безопасности ещё на этапе проектирования архитектуры. Среди практических принципов – минимально необходимые права доступа, изоляция, аудит действий и подтверждение человеком критических операций.
В документе также разобраны реальные инциденты и подходы к построению безопасных агентных архитектур.

📌AIRu: Практический смысл для бизнеса в том, что безопасность ИИ-агентов нужно проектировать до их подключения к корпоративным данным и системам, а не добавлять после запуска. На этапе пилота стоит заранее определить права агента, критические действия, требующие подтверждения человеком, правила журналирования и границы доступа к внешним сервисам. Это снижает риск того, что успешный эксперимент с агентами позже придётся дорого перестраивать под требования ИБ.
Полное руководство прикладываем к посту 👇