7 слоёв агентных ИИ-Систем

Слой 0. Пространство действий

До любого триггера должна существовать граница того, что агенту разрешено делать, какие действия типизированы, а какие требуют подтверждения человека. Без этого слоя триггер будет запускать процессы, которые не будут знать своих пределов и будет выполнять их, пока ему не сообщат извне иное.

Слой 1. Триггер

Кто сделал запрос и куда передать результат. Маршрутизация описана и задана внутри уже определённых ранее границ в слое 0.

Слой 2. Оркестрация и состояние

Запрос разбивается на этапы, для каждого выбран метод из утверждённого набора правил и критериев, лимитов итераций, путей эскалации и критериев завершения.

Слой 3. Исполнение

Обращение к исходным данным. ИИ рассуждает и поясняет, а все вычисления делает отдельный процесс-код (не ИИ). Всё, что имеет заранее известный правильный ответ, исполняется детерминированно, один и тот же вход даёт один и тот же выход.

Слой 4. Доверенный контекст

80% успеха агента (и продакта с продуктом). Предметные знания и известные исключения извлекаются в момент, когда они нужны, с соблюдением принципа минимальных привилегий. Пропущенный слой 4 порождает галлюцинации.

Слой 5. Верификация

Эталонные наборы, воспроизводимые тесты, участие людей-экспертов, которые проверяют не правильность вычисления (это уже сделано на слое 3), а правильность РЕШЕНИЯ, принятого с контекстом из слоя 4.

Провал на слое 5 проверяет изменения со слоя 4. Тот же провал обязан перепроверять слой 3 (детерминизм тоже может отказать) и менять слой 2, ужесточая маршруты эскалации, если ошибка повторяется определённое число раз.

Слой 6. Среда выполнения

Среда выполнения – это то, что делает всю Систему независимой от того, какая именно модель приводит её в движение.

У каждого своя изолированная копия конфигурации модели (промпт, контекст, инструменты, лимиты), сквозной трейсинг (способность проследить весь путь одного запроса через все слои системы), панели мониторинга затрат и вся прочая инфраструктура не привязана к конкретному поставщику ИИ, а замена модели работает как смена строки в конфиге. Модели могут должны меняться, слои 0–6 остаются.

+ Как структурировать продукт для ИИ: 6 элементов для ИИ-агентов

Агентность – это способность Системы менять собственное поведение по понятным и прогнозируемым сигналам