Бизнес входит в эру ИИ-агентов. В BCG уже фиксируют случаи, где агенты снижают издержки на отдельные бизнес-функции на 90–95%. Но агентский рынок хаотичный и бессистемный, поэтому управление ими может стать для компаний непосильной задачей. Gartner прогнозирует, что уже к 2027 году 40% корпоративных проектов по внедрению агентского ИИ будут закрыты из-за сложностей внедрения и неочевидной коммерческой выгоды.

Решение есть — подход «инфраструктура как платформа» (Infrastructure-as-a-Platform, IaaP). Он поможет подготовить корпоративную инфраструктуру к агентской эре и интегрировать их с максимумом понимания и минимумом издержек. Рассказываем, как это работает.

🐼 Что такое «зоопарк агентов»

Рынок агентского ИИ только зарождается, но уже очень фрагментирован. Одни вендоры предлагают агентов для HR-функций, другие — для службы поддержки, третьи — для юридического отдела или управления цепочками поставок. У них нет никаких единых стандартов и нормативов — каждое решение уникально и требует индивидуального подхода.

Каждый агент может принести пользу. Но управление ими может стать для компании головной болью — и вот почему.

🔸Для контроля за работой каждого агента придётся подбирать уникальные метрики и модели трассировки.
🔸Каждый агент требует доступа к данным, иногда с избыточными правами — это создаёт риски безопасности.
🔸Агенты могут ошибаться, и кто-то должен нести ответственность за их работу. Но если агентов много, ответственность размывается.
🔸Агенты могут дублировать функции друг друга, выполнять одни и те же действия.
🔸Рано или поздно агентам придётся начать взаимодействовать между собой. Эти процессы требуют особого контроля.

Ситуацию, когда издержки от этих проблем превосходят пользу от использования агентов, и называют «зоопарком». Защитить себя от такого сценария можно, системно подготовив инфраструктуру компании.

🛠 Как должна работать инфраструктура как сервис

Корпоративная инфраструктура для внедрения агентов должна быть прежде всего гибкой и способной быстро адаптироваться к изменениям, но при этом целостной и единообразной. Вот как это достигается в IaaS-подходе.

Всё как код
В классической IT-модели инфраструктура настраивается вручную: администраторы конфигурируют серверы, сети, доступы. В модели IaaP всё описывается в виде кода, например через Terraform или Ansible. Если нужно запустить нового агента, достаточно изменить файл: система сама развернёт сервер, настроит сеть и подключит сервисы. В виде кода хранятся и конфигурации доступа к данным для каждого агента.

Доступ к инфраструктуре через API
Инфраструктура должна стать динамической платформой, все обращения к которой происходят через API, в том числе со стороны агентов. Практическая опора такого подхода — ПО для оркестровки приложений Kubernetes. Все операции и коммуникации между компонентами в нём — это вызовы REST API через API-сервер.

Автоматическое управление ресурсами
Все изменения в инфраструктуру переносятся в автоматизированные конвейеры, такие как CI/CD и GitOps, где они сперва проходят через заданные шаги контроля (ревью, тесты, политики).

Единый слой наблюдаемости
Для контроля за агентами компания создаёт единый центр мониторинга: собирает логи, метрики, трассировки. Это даёт полную картину — какой агент сколько ресурсов потребляет, где замедления, какие данные используются. Кроме того, компания ведёт единый реестр агентов и единый пайплайн проверки каждого агента, например на утечки персональных данных и соответствие GDPR.

Платформенный подход к управлению командой
На уровне всей компании за интеграцию агентов должна отвечать отдельная команда, стремящаяся к тому, чтобы создать единую агентскую платформу. При этом ответственность за деятельность агентов по бизнес-функциям разделена между IT-отделом и конкретной командой. К примеру, за качество работы агента, который помогает юристам обрабатывать входящую документацию, отвечают глава IT и руководитель юротдела.

Подписывайтесь 👉 @yab2btech