В последнее время все чаще вижу обсуждения именно на эту тему. Чем больше доступов получает агент, тем полезнее он становится. Но вместе с этим появляется вопрос - где провести границу.
На самом деле здесь работает старый принцип из информационной безопасности - Principle of Least Privilege (можете подгуглить) Суть простая - системе дают только те права, которые действительно нужны для выполнения задачи.
Для агентов это выглядит примерно так:
🔸может читать документы, но не удалять их;
🔸может подготовить письмо, но отправляет его только после подтверждения;
🔸может посмотреть логи сервера, но не перезапускать сервисы;
🔸может предложить изменения в коде, но не пушить их сразу в
main.Получается довольно простое правило: чем выше цена ошибки, тем меньше самостоятельности у агента.
❗️И важно думать об этом еще на этапе проектирования. Не "что агент умеет делать", а "какие действия он вообще никогда не должен выполнять без человека".