🔐 Безопасность агентов — это не паранойя, а гигиена

Даёшь агенту доступ к почте, файлам, календарю — и он начинает реально работать. Ровно тут он из игрушки превращается в того, кто дотянется до лишнего. Про это забывают на радостях, что «оно само делает».

Хорошая новость: закрыть базовые дыры можно без кода. Агент сам проверит себя и починит, если правильно поставить задачу.

«Разграничь доступы по ролям». Не всё подряд, а расписать: какому агенту какие данные нужны, а какие нет. Пусть предложит схему и закроет лишнее. Как учётки у сотрудников — у каждого своё.

«Проверь обходные пути». Прямой запрет — половина дела. Пусть поищет, где утечёт в обход: через общую память, связанные записи, хитрый запрос к базе. Дыра почти всегда в неочевидном месте.

Персональные данные в облако нельзя. Не «нежелательно», а нельзя по закону: ПДн не вывозят за границу, а облачная модель — это заграница. Мелькнули имя и фамилия в запросе к ChatGPT — уже нарушение. Порядок такой: сначала пусть агент построит конвейер, который обезличивает данные локально, скриптами, без облака. Проверь на ненастоящих данных, глазами убедись, что чисто. И только когда труба готова — пускай в неё реальное. Сначала труба, потом вода.

«Сломай свою же защиту». Пусть агент прикинется другим и дотянется до закрытого, прогонит нагрузку, найдёт где протекает. У меня так набралось 60 проверок — каждая ловила на дыре.

Не нужно быть инженером. Задай агенту правильные вопросы — и он сам выстроит себе границы.