⚡️ Запускаем DeepSeek ЛОКАЛЬНО — нашли полный русскоязычный гайд для запуска нейронки у вас на ПК.
Репозиторий состоит из 18 частей. Внутри всё о том, как запустить DeepSeek V4, R1 и дистилляты у себя, без облака и интернета — приватно, офлайн и БЕСПЛАТНО.
Внутри весь путь:
🔅 Выбор модели и расчёт железа;
🔅 Установка и настройка Ollama, llama.cpp, LM Studio, Open WebUI, vLLM и SGLang;
🔅 Работа через API и Python;
🔅 Подключение к IDE, промптинг, ускорение, RAG и тд;
🔅 В конце ТОП-30 приёмов, разбор ошибок, FAQ и готовые конфиги.
Так например вы узнаете, что модель на 8B занимает 5-6 ГБ памяти, на 14B около 9-10 ГБ, на 32B около 20 ГБ, на 70B около 43 ГБ — выбирайте, что подходит вам.
Весь репозиторий и вся инфа — тут.
🙂 Не баг, а фича
Post #28480
10.6K

- 🔥 31
- ❤ 18
- 👍 9
- 👎 5
- 😁 2
- 👾 2