«Лаборатория Касперского» представила руководство по безопасности ИИ-агентов

«Лаборатория Касперского» выпустила руководство по безопасности ИИ-агентов. Документ описывает основные риски использования таких систем и предлагает методы их снижения на основе принципов кибериммунитета.

Руководство предназначено для ИТ-директоров, руководителей и разработчиков. Оно фокусируется на рисках, связанных с большими языковыми моделями (LLM), их доступом к данным, избыточными полномочиями и непрозрачностью действий. В документе представлены реальные инциденты, подтверждающие эти угрозы.

ⓘ Что такое кибериммунитет
Кибериммунитет — это концепция «Лаборатории Касперского», направленная на создание систем, безопасных по умолчанию. Подход ставит во главу угла цели и допущения безопасности, определяющие архитектуру системы на этапе проектирования.

Источники: Kaspersky · SecurityMedia
@cbunit