Вы бы дали новому сотруднику доступ ко всему? А AI?

Допустим, собрали, проверили, подключили AI. Теперь нужно решить, что ему разрешено с этой информацией делать.

Прочитать договор, подготовить ответ клиенту, отправить его и вернуть деньги — разные полномочия. Для подготовки ответа не нужен доступ к платежам. А доступ к клиентской базе не означает, что любые сведения из неё можно передавать клиенту.

На конференции глава Certis Tian Beng Ng рассказывал: их AI-агенты получают идентификатор цифрового сотрудника, отдельные права доступа и конкретного человека, который за них отвечает. У каждого есть своя работа и свои полномочия.

Например, поручение «реши вопрос клиента» слишком широкое. Можно предложить вариант ответа. Можно согласовать скидку в установленном размере. А можно пообещать условия, которые компания не сможет выполнить. Цель одна, последствия разные.

Поэтому границы нужно не только написать в инструкции, но и закрепить в самой системе: какие данные агент видит, что может менять, какие действия требуют подтверждения. И сохранять историю действий, чтобы ошибку можно было найти и разобрать.

Прежде чем дать AI задачу, стоит ответить: что ему нельзя делать даже ради её выполнения?


Макарова Ольга
стратегические и партнерские сессии для основателей
канал «стратегия личности»
https://mstrategy.pro