⚡️ llm-checker - инструмент анализирует ваше железо и показывает, какие LLM будут работать стабильно - без фризов и вылетов.

Больше не нужно угадывать с квантованием или ловить OOM.
Утилита сама подбирает оптимальную конфигурацию под ваш CPU, GPU и память.

Что умеет:

• оценивает производительность для 35+ моделей
• учитывает пропускную способность памяти и лимиты VRAM
• проверяет, потянет ли нужный контекст
• работает с Apple Silicon, NVIDIA и Intel Arc
• сразу даёт готовые команды для запуска через Ollama

Идея простая: сначала проверить железо, потом скачивать модель.

https://github.com/Pavelevich/llm-checker