— Сама определяет объём памяти, процессор и видеокарту, а потом оценивает сотни моделей по тому, влезут ли они в память, как быстро будут работать и насколько хорошо отвечать
Дружит с Ollama, LM Studio и llama.cpp, работает на Windows, macOS и Linux, так что перед скачиванием тяжёлой модели можно заранее понять, есть ли в этом смысл
Языки: Rust (83.8%), Python (9.8%), JavaScript (9.2%), ...
⭐️ Star 37.8k
https://github.com/AlexsJones/llmfit
⚡️ @becaps // max.ru/becaps