Проект предоставляет API высокого уровня для вывода моделей LLaMA и развертывания их на локальном устройстве с помощью
C#/.NET. Проект работает под Windows, Linux и Mac без необходимости компилировать llama.cpp самостоятельно.
Отличный инструмент, чтобы развернуть ваш собственный ИИ на C#, подобный ChatGpt.
Даже если у вас нет мало памяти GPU, вы все равно можете использовать модели LLaMA! 🤗
▪Github
@csharp_ci