Теперь можно не бояться llama.cpp с этим лаунчером
Как же мне надоели эти терминалы и bat-ники. Я теперь могу в один клик запускать сервер и не надо лезть в блокнот чтобы поменять какой либо флаг. Все в одном интерфейсе - удобно.
Я простестировал удобный софт от участника НАШЕГО ЧАТА.
В этом видео я наглядно показал как это работает:
https://youtu.be/vcPGTI_VA4kн
Ссылка на гитхаб:
https://github.com/pytraveler/LlamaServerLauncherAvalonia
Приятной генерации и бесплатных токенов!
Post #102
2.67K