💪 Итак, агентик раг. В чём его сила?
Ты даёшь ему задачу и инструмент, и он её выполняет: вот есть такой-то запрос пользователя, вот есть бд, где скорее всего есть инфа по этому вопросу. Найди подходящие блоки в бд, синтезируй их все и отдай ахуенный ответ наружу.
🚬 Да? Нет. Ахуенно оно работать не будет. Потому что, чем больше в вашей цепочке будет агентов, а не жёстких алгоритмов, тем больше будет непредсказуемости. Сейчас он дал идеальный ответ, а в следующий раз на тот же вопрос вы получаете белиберду. А иногда вообще получите набор символов, потому что он чего-то там не распарсил и не туда свернул.
То он криво поймёт вопрос пользователя, то слишком буквально будет искать в бд, то нихуя не найдёт, но скажет, что нашёл – вариантов вас незаметно обмануть у него будет масса.
🤨 И вот на какой-то день или месяц ваших попыток завести все эти академически красивые флоу, и получая какую-то плавающую хуйню на выходе, вы вдруг поймёте, что
И если вы будете обращаться с этой стабилизацией к ИИ, то он с радостью за это возьмётся, и всё ахуенно пофиксит.
🚬 Да? Нет. Потому что, напоминаю, эта свинья всегда хочет сделать так, чтобы вы, весь такой разъярённый тем, что у вас всё работает не так, как задумывалось, в кратчайшие сроки и с минимальной затратой токенов стали довольным.
А это значит только одно: когда вы обратитесь к нему с проблемой "Я ВВЁЛ А, И ПОЛУЧИЛ В, А ДОЛЖЕН БЫЛ ПОЛУЧИТЬ Б" – именно эту проблему он и пофиксит.
Ему поебать, что вы имели ввиду, что он должен по этому примеру понять корневую причину проблемы и пофиксить её.
🩼 Он с 50% вероятностью вставит в промпт костыль, чтобы именно на этот вопрос вы получили именно тот ответ.
🩼 А ещё с 50% вероятностью он вставит какой-нибудь ссаный регэксп или типа того, что тоже пофиксит только ваш кейс, но сломается на любом другом.
Поэтому вам понадобятся валидаторы. И валидаторы валидаторов. И голосования валидаторов. И тест-кейсы. Много тест-кейсов. И прехуки, постхуки, запрещающие ему исправлять конкретные кейсы в промптах. И много-много всего, что будет нарастать по мере ваших тщётных попыток договориться с искусственным монстром.
Будет ли свет в конце тоннеля? Временами. Пока его не заслонила очередная жопа. Но всё зависит от вашего перфекционизма, как и всегда. С ИИ вы не получите идеального сервиса. Но довольно быстро получите те самые 80% профита.