В развитие темки.
Ты говоришь агенту "Мне нужна подсистема управления заказами: клиент может создать заказ, добавить товары, оплатить, отменить до отправки....".
Агент бодро берётся за работу, и где-то на пятидесятой итерации, потратив миллион токенов, выдаёт нечто вроде бы минимально работающее.
Допустим, 50 классов, которые можно комбинировать 2500 разными способами. И через полгода, после новых хотелок до 200 классов, жпт как сгенерит новый код, так сломает старый, и 80% токенов уходит на "поправь тут", "сломалось это", "не то имел в виду". А вскоре и контекст всех классов не будет влазить в окно, и на этом всё :) в таком случае принципиально невозможно добавить новый класс не поломав что-то в уже существующем.
И тут даже при небольшом количестве подобных подсистем, взаимодействующих друг с другом, начинается экспоненциальный расход ресурсов, потому что агенты следуют жадному поиску "сгенерить - проверить - откат - пробую иначе".
5 таких подсистем - миллионы токенов, 20 - сотни миллионов, 50 - просто нереально. Каждая починка ломает что-то другое, откаты копятся, и начинается экспоненциальное блуждание в пространстве решений.
На практике-то и 100 млн токенов легко может улететь и на одну подсистему, если допустил топологическую дыру в спеке.
И вот что с этим мы будем делать :) =>
Post #2221
723

- 👍 32
- ✍ 9
- ❤ 6
- 🐳 3