Рекомендации по использованию AI-агентов и AI-ассистентов:
1. Проведите инвентаризацию и правильно классифицируйте ИИ, как ассистент или агент. Каждые полгода желательно обновлять данные, т.к. могут изменяться ваши процессы, нормативные требования, трактовки понятий.
2. Согласовывайте юридические меры защиты, разграничивайте типы ИИ в политике, ведите документацию, внедряйте механизмы контроля в зависимости от классификации.
3. Проверяйте контракты с поставщиками, добивайтесь прозрачности в отношении типа используемого ИИ.
4. Проектируйте, используя фреймворки безопасности, чётко определяйте полномочия агента, применяйте принцип минимально необходимых прав (least privilege), используйте токенизацию и шифрование, логирования всех действий, системы обнаружения аномалий.
5. Объясните пользователю, когда и как действует агент, обеспечьте ему прозрачность и контроль.
6. Обучите команду.

Что почитать:
- Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents;
- Building effective agents / Anthropic;
- Visibility into AI Agents / Alan Chan and ....;
- Agents: White paper by Ulia Wiesinger, Patrick Marlow and Vladimir Vuskovic;
- Regulating advanced artificial agents;
- Alignment Faking In Large Language Models

@pattern_ai
#LawAndDisorder #AIShelf