Loop engineering - черная дыра в твоем бюджете 😏

Последние пару дней в сети очень много обсуждений, что единственное, что нужно агенту для выполнения задачи - хорошо поставленная цель и обратная связь, котороая будет гонять его по циклу, пока цель не будет достигнута... Например, формируемый разработчиков цикл агентского кодирования может выглядеть следующим образом: цель → контекст → действие → проверка → исправление → повтор 😘

С одной стороны тут хрен поспоришь... Агент, он как тот осел, которому перед мордой повесили морковку и ведут на убой... то есть он с упорством осла будет стучаться в стену головой пока ее не прошибет (конечно, по его, а не вашему мнению 😏)

С другой стороны - субагенты, оркестрация, цикл, выполняющийся хрен знает сколько раз - это, млять, черная дыра, пожирающая шекели компании и при оплате токенов по API, такая организация агентского кодирования может за пару дней сожирать столько денег, сколько обычно закладывается в месячный фонд оплаты труда отдела из, почти, десятка человек 👀

В итоге получается, что хреначить такие циклы агентского кодирования можно только при наличии бесконечного количества бесплатных токенов, так как 5-ти часовые лимиты при наличии подписки на планы по кодированию сгорают за считанные минуты и приходится курить бамбук в ожидании их сброса, либо заводить несколько учеток 🫠

Про это мало кто говорит, но уже дохрена компаний, которые рьяно внедряли ИИ, взвыли и начинают переосмысливать, что же они натворили... один пример Uber чего стоит, когда за первые 4 месяца они спустили годовой бюджет, что выделялся на использованиее LLM-ок 😏

p.s. А какой у вас в компании дневной лимит на LLM и реально ли его хватает?