Вчера ходил на Arch.Meetup от Сбера. Делюсь впечатлениями и главными возникшими мыслями.
Часть 1: Восторги
Офис Сбера — это просто космос! Он пытается нанять тебя вместо HRов,
Организация — на высшем уровне, спикеры — отличные, технологии и темы очень актуальные и заставляют задуматься попробовать новые практики в работе. Одним словом — горишь и хочешь на следующий митап.
Часть 2: Драма
...Но был и трагичный момент. Я там чуть ли не танцевал, тянул руку, чтобы задать вопрос, но микрофон так и не добрался до меня. Ребята-организаторы, недоработка!
Часть 3: Главный инсайт — завтра уже здесь. И у него есть права доступа.
Самой новой и интересной темой для меня стала тема управления правами для ИИ-агентов. Представьте: корпоративная экосистема — это уже не просто люди, а целый цифровой мегаполис, где тысячи ИИ-агентов работают рядом с людьми.
И это создает вызовы, с которыми классические системы безопасности (вроде RBAC) просто не справляются:
▫️Проблема 1: Масштаб и природа агентов
Они создаются и завершаются ежесекундно, а их поведение не всегда детерминировано. Нужны гибкие модели вроде ABAC, где права определяются динамически.
▫️Проблема 2: Межагентное взаимодействие = «испорченный телефон»
▫️Утечка данных: Агент А имеет доступ к данным, обрабатывает их и передает вывод агенту Б, который не должен их видеть. Если в выводе остался «след» — конфиденциальность под угрозой.
▫️Каскад ошибок: Один агент с некорректными правами принял плохое решение -> следующий ему поверил -> понеслась лавина сбоев по всей системе.
Чем это реально грозит?
〰️Утечка финансовых или клиентских данных.
〰️Прямой финансовый ущерб из-за ошибок в автоматизированных транзакциях.
〰️Полная потеря доверия к системе.
Что делать?
Это новая область, но контуры решений уже видны.
➖Принцип наименьших привилегий (PoLP) как догма. Права агенту — строго на задачу и строго на время ее выполнения.
➖Динамические политики. Не «можно вызывать API X», а «можно вызывать API X только для сотрудника Y и только с 9 до 18».
➖Доработка аудита и легирования. Любое действие любого агента должно быть залогировано и привязано к действию человека.
Вместо вывода
Управление правами в гибридных системах «люди + ИИ» — это новая интересная задача, которая может стать огромным вызовом.