🧠 Контекстуальные политики вместо разрешений: Google сформулировала проблему агентной приватности

Google Research выпустила отчёт по итогам воркшопа Contextual Agent Privacy and Security (CAPS), прошедшего в Нью-Йорке в конце 2025 с участием более 50 академических и индустриальных исследователей. Основной тезис: агентам, которые комбинируют инструменты и получают доступ к личным данным, недостаточно традиционных разрешений — им нужна машиночитаемая политика, зависящая от контекста. Авторы расширяют теорию контекстуальной целостности Хелен Ниссенбаум с информационных потоков на действия агентов. Уместность определяется тремя элементами: участниками (кто передаёт и получает), типами информации (медицинская, финансовая) и принципами передачи (конфиденциальность, взаимность).

Пример из отчёта: список подарков уместно показать виртуальному ассистенту по покупкам, но не друзьям и семье. Ключевое предложение — контекстуальный policy engine в роли контролирующего слоя: он генерирует политики в реальном времени под каждый запрос и проверяет, уместно ли действие, до того как данные покинут рабочее пространство пользователя. Отдельно авторы настаивают на создании «Agent Gym» — стандартизированных мультиагентных сред для симуляции каскадных взаимодействий, которых сейчас нет ни в одном бенчмарке.

Слабое место — формализация «уместности»: если policy engine будет полагаться на LLM как на судью социальных норм, мы получим ту же модель с галлюцинациями, но уже в роли арбитра приватности. Пока это красивая теория без эталонной реализации и без количественных оценок, но проблема реальна: агенты с доступом к почте, календарю и платёжным данным уже в проде, и утечки там обходятся дороже, чем неверный ответ в чате.

#AgenticAI #Privacy #ContextualIntegrity #GoogleResearch #AIsecurity