Какое-то время я активно работаю с LLM. Создаю приложения, ищу информацию, развиваю проекты.

И поймал себя на интересной мысли.

Пока я получаю знания от ИИ, сам ИИ тоже получает много информации обо мне. О моих проектах, идеях, подходах к работе. Появился новый субъект, который знает обо мне довольно много. Его уже называют «доверенным инсайдером».

С развитием ИИ-агентов такой инсайдер будет становиться все более самостоятельным. Получит память, доступ к инструментам, возможность выполнять действия и принимать решения в рамках делегированных полномочий.

В сфере моих интересов находится теория транзакционных издержек. Поэтому для себя я сформулировал вопрос немного шире.

Если в организации появляются новые участники, обладающие знаниями и полномочиями, а корпорация управляет ими через ИИ-платформы, политики доступа и guardrail-механизмы, то как она будет защищать себя от их оппортунистического поведения?

Мне кажется, в ближайшие годы это станет одной из центральных тем корпоративного управления.