llmfit

Это инструмент, предназначенный для определения совместимости различных больших языковых моделей (LLM) с вашим оборудованием.

Он поддерживает 157 моделей от 30 различных провайдеров, позволяя пользователям быстро оценить, какие из них могут быть запущены на их системе.

Программа предоставляет удобный интерфейс для анализа и выбора подходящих моделей, оптимизируя процесс настройки и использования LLM.

Lang: Rust
https://github.com/AlexsJones/llmfit
================
👁 мМм | 👁 Soft | 👁 Gear | 👁 Links