Почему они жрут столько денег?

Запустили агента, пошли налить кофе, возвращаетесь, а баланс по API улетел в минус на 10 баксов. Знакомая история? 🤦‍♂️

Люди привыкли к чату GPT: написал промпт, получил ответ = списались копейки.
Агент работает иначе. Он крутится в цикле:
1. Думает, что делать (Chain of Thought).
2. Вызывает инструмент.
3. Читает результат.
4. Понимает, что облажался, и переделывает.

И каждый этот шаг - это прогон всего накопленного контекста через тяжелую модель. Если агент затупил и сделал 15 итераций, он сжег ваши деньги впустую.

Чтобы не остаться без штанов, нужно уметь роутить задачи: сложную логику отдавать дорогим моделям (типа Opus или GPT-4o), а простые функции и парсинг - дешевым (типа Haiku или 4o-mini).

Без понимания архитектуры любая нейронка просто сожрет твой бюджет и не подавится. Рассказываем, как влететь в AI-тренд с умом, правильно распределять задачи и не сливать бабки на старте

Кстати, если вы думаете, что агента можно настроить одним большим и красивым промптом, вы сильно ошибаетесь 😔. В следующем посте объясню почему.