Друзья, привет,
я вернулся с Технопрома и продолжаю вчерашнюю тему с аналитикой по ИИ.
Недавно написал статью для Future Banking про применение ИИ-агентов руководителями.
Делюсь с вами ключевыми инсайтами.
1️⃣Руководителю нужен не ещё один чат-бот
Ему нужен инструмент, который соединит почту, календарь, встречи, документы, задачи и показатели в единую управленческую картину.
Именно в этом я вижу потенциал ИИ-агента как «второго мозга» руководителя.
Обычный ИИ-ассистент отвечает на отдельный запрос: пересказывает документ, готовит письмо или предлагает структуру презентации.
ИИ-агент получает цель.
Например: «Подготовь меня к завтрашнему наблюдательному совету».
Дальше он может самостоятельно найти встречу в календаре, поднять предыдущий протокол, проверить поручения, собрать показатели проекта, выявить отклонения и подготовить краткую записку.
После совещания - обработать транскрипцию, выделить решения, предложить ответственных и сроки, а после подтверждения руководителем создать задачи в корпоративной системе.
2️⃣ При грамотной настроке агент сопровождает весь управленческий цикл
• разобраться. Собрать разрозненную информацию и восстановить контекст.
• сфорусироваться. Показать приоритеты, риски и вопросы, требующие решения.
• сделать. Подготовить документы, поручения и другие действия.
• свериться. Проверить исполнение и эскалировать на руководителя только отклонения от плана.
Такой агент способен готовить к совещаниям, формировать протоколы, контролировать поручения, анализировать документы, искать информацию в корпоративных знаниях, следить за бюджетом и состоянием проектов.
3️⃣Но здесь появляется принципиально новый риск
Ошибка чат-бота - это обычно неверный ответ. Ошибка ИИ-агента - неверное действие или некорректное решение.
Агент может отправить сообщение, изменить данные, создать поручение или запустить бизнес-процесс. Поэтому контролировать нужно не только качество модели, но и пространство доступных ей действий.
Я бы оценивал риск агента по простой формуле:
риск = автономность × полномочия × потенциальный ущерб
Чем выше каждый из этих параметров, тем жёстче должны быть ограничения:
- минимально необходимые права;
- разделение чтения и изменения данных;
- подтверждение критических действий человеком;
- ограниченный перечень инструментов;
- полное журналирование шагов;
- защищённое хранение ключей и токенов;
- лимиты по времени, стоимости и количеству операций;
- возможность немедленно остановить агента и отозвать его полномочия.
4️⃣Полезно рассматривать ИИ-агента одновременно в четырёх качествах:
- как программную систему, которую нужно тестировать и обновлять;
- как цифрового сотрудника, которому необходимы роль, обязанности и порядок эскалации;
- как сервисную учётную запись, которой выдаются минимальные права;
- как потенциального нарушителя, способного ошибиться или быть скомпрометированным.
5️⃣В ближайшие годы мы вряд ли увидим автономного «ИИ-директора» в крупной организации
Гораздо реалистичнее постепенная передача агентам отдельных элементов управленческого цикла:
• сначала - сбор информации,
• затем - подготовка решений,
• после - выполнение действий с подтверждением,
• и только потом - ограниченная автономность в низкорисковых процессах.
Сегодня руководителю нужно решить не только, какое решение использовать и какие скилы настраивать, а какие полномочия он готов делегировать ИИ-агенту, при каких условиях и с каким уровнем контроля.
Полная версия моей статьи для журнала «Внутренний контроль в кредитной организации» (подписка платная).
А вы используете агентов в своей работе? Поделитесь в комментариях 👇👇👇
#агенты
💬 ген ии | MAX