В репозитории 18 частей о том, как установить DeepSeek V4, R1 и дистилляты без интернета с полной приватностью, а также:
• Как выбрать модели и рассчитать железо;
• Установка и настройка Ollama, llama.cpp, LM Studio, Open WebUI, vLLM и SGLang;
• Работа через API и Python;
• Подключение к IDE, промптинг, ускорение, RAG и т.д.;
• Бонусом ТОП-3️⃣0️⃣ приёмов, разборов ошибок, FAQ и готовых конфигов.
Например, для модели на 8B нужно 5-6 ГБ памяти, на 14B около 9-10 ГБ, на 32B около 20 ГБ, на 70B около 43 ГБ — подбирайте под свои нужды и железо.
Забираем имбу — тут.
⚡Провод