В репозитории 18 частей с инструкциями по запуску DeepSeek R1, V4 и дистиллятов локально, без облака и бесплатно
Внутри весь путь:
🔵 Выбор модели и расчёт железа;
🔵 Установка и настройка Ollama, llama.cpp, LM Studio, Open WebUI, vLLM и SGLang;
🔵 Работа через API и Python;
🔵 Подключение к IDE, промптинг, ускорение, RAG и тд;
🔵 В конце ТОП-30 приёмов, разбор ошибок, FAQ и готовые конфиги.
Например, для модели 8В нужно около 6 ГБ ОЗУ, на 14В — до 10 ГБ памяти, а 32В потребует 20 ГБ памяти. Вы сможете адаптировать модели под свои задачи и железо
Весь репозиторий и вся инфа — тут 👆