Вы, возможно, помните замечательный проект sgr-agent-core, в котором я участвую. Так вот, мы с командой очень старались и запилили большое обновление 0.5.0!
Главная цель этого релиза была в том чтобы максимально упростить для пользователей развёртывание и вход в проект. Теперь можно поставить всё одной командой:
pip install sgr-agent-core
После установки появляется возможность запустить локальный API-сервер командой:
sgr
Да, конечно, понадобится подготовить конфигурационный файл и настроить модели через конфиг, но мы как раз запилили документацию, так что всё стало сильно проще и понятнее.
Лично мне в этом релизе очень хотелось добиться ситуации, когда проект можно использовать примерно как docker compose, то есть максимально просто и удобно, без лишних сложностей, а именно запилил нужные тулзы, описал то, как работают агенты в конфиге, подкинул промпты и вуаля, у вас в распоряжении API-шка, совместимая с любым OpenAI-клиентом, только с SGR под капотом.
Надеюсь, вы оцените мой скромный вклад в то, что оно ощущается теперь именно так.
По ходу разработки нам стало пилить проект заметно проще, благодаря Валерию @neuraldeep удалось заручиться поддержкой ребят из red_mad_robots! Так что теперь у нас нет ограничений по инференсу и вычислительным ресурсам, и дело пошло с очень мощным бустом.
Отдельное спасибо всем, кто участвовал в подготовке релиза, а именно:
- Артёму @virrius (и да - подписывайтесь на его канал @virrius_tech) за кропотливый труд и внимание к моему, скажем так, вайбкоду ;)
- Михаилу @mixaill76 - за помощь с упаковкой в python-пакет и оптимизацию пайплайнов тестирования и деплоя
- Новичкам проекта SnakeOilSalesman и igorvolk1961 за помощь в приведении кодовой базы в порядок
Вот такой вот отличный релиз получился, прямо вам под новогоднюю ёлку 🎄
Всех с наступающими праздниками и длинными выходными!
