Агентный ИИ: считаем скрытый чек

Все носятся с агентным ИИ как с новой игрушкой. Автономные агенты, которые сами решают задачи, сами ходят по API, сами принимают решения. Звучит как мечта CTO после третьего бокала на конференции.

А теперь калькулятор. Агентный ИИ работает не как обычный чат-бот — он запускает цепочки вызовов. Один запрос пользователя может породить 10-50 обращений к LLM. Каждое стоит денег. Каждое жрёт compute. И всё это 24/7, потому что агент должен быть always-on.

Инфраструктуру нужно перестраивать с нуля. Обычные мощности не тянут — нужны GPU-кластеры, мониторинг, оркестрация, fallback-сценарии. Каждый слой добавляет к счёту.

Компании радостно пилотируют агентов на демо-данных, а потом удивляются счетам в проде. Классика: бюджет на ИИ утвердили по расчётам для RAG-чатбота, а развернули систему с расходами в 20 раз больше 🔥

Никто пока не придумал, как нормально считать ROI штуки, которая сама решает, сколько ресурсов ей потратить.