Запускаем DeepSeek локально — нашли подробный русскоязычный гайд по запуску нейросети на вашем ПК.

Репозиторий разбит на 18 частей. Внутри собрана вся информация о том, как поднять DeepSeek V4, R1 и дистилляты у себя, без облака и интернета — приватно, офлайн и бесплатно.

Внутри есть весь маршрут:

• Выбор модели и расчёт железа;
• Установка и настройка Ollama, llama.cpp, LM Studio, Open WebUI, vLLM и SGLang;
• Работа через API и Python;
• Подключение к IDE, промптинг, ускорение, RAG и тд;
• В конце ТОП-30 приёмов, разбор ошибок, FAQ и готовые конфиги.

Например, вы узнаете, что модель на 8B занимает 5-6 ГБ памяти, на 14B около 9-10 ГБ, на 32B около 20 ГБ, на 70B около 43 ГБ — выбирайте, что подходит вам.

Весь репозиторий и вся инфа — тут.

INCUBE.AI | ПОДПИСАТЬСЯ