Чтобы превратить вызовы LLM в понятные и компонуемые workflows, не нужен огромный фреймворк.
PocketFlow — минималистичный Python-фреймворк для разработчиков, которые создают агентов, RAG-пайплайны и другие LLM-приложения.
Он позволяет проектировать логику приложения в виде графа, соединяя небольшие узлы, которые используют общее состояние и направляют выполнение через именованные действия.
Ключевые возможности:
• Графовые flows — можно объединять узлы в цепочки, создавать ветвления по действиям, циклы и вложенные flows.
• Узлы из трёх этапов — подготовка, выполнение и постобработка разделены и работают с общим состоянием.
• Настройка повторных попыток — можно задать количество ретраев, задержки между ними и fallback-поведение при ошибках выполнения.
• Batch- и async-режимы — обработка списков элементов, повторный запуск flows с параметрами и параллельное выполнение асинхронных batch-задач.
• Практический cookbook — примеры агентов, RAG, workflows, стриминга и приложений с human-in-the-loop.
Проект с открытым исходным кодом и распространяется по лицензии MIT.
👉 @PythonPortal
Post #5994
4.82K