🔖 Утилита для тех, кто запускает LLM локально
LLM Checker автоматически оценивает ваше железо и рекомендует модели, которые будут работать без тормозов и ошибок по памяти.
Под капотом скоринг для 35+ моделей и поддержка Apple Silicon, NVIDIA и Intel Arc.
⛓️ Ссылка на GitHub
tags: #полезное
➡ Data Scientist | Чат
Post #942
706

- ❤ 1
- 👍 1
- 🔥 1