Доверить ответ и доверить действие — не одно и то же: как «Группа Астра» строит защищенный контур для корпоративного ИИ

Искусственный интеллект уже умеет не только отвечать сотруднику, но и действовать от его имени: обращаться к корпоративным системам, работать с кодом и получать доступ к данным. Чем больше полномочий получает агент, тем меньше компания может полагаться только на качество самой модели.

Кто определяет, что ИИ разрешено делать, кто остановит его при выходе за пределы задачи и можно ли допустить такого агента в защищенный контур? «Группа Астра» рассчитывает решить эту проблему на уровне инфраструктуры — там, где контролируются права, данные и действия ИИ.

Подробнее >>>