TGViewer
HABR FEED + OPENNET HABR FEED + OPENNET @tmfeed · 2.72K subscribers
Post #324627 50
[Перевод] Запускаем LLM локально на Windows: WSL2, Docker, CUDA и vLLM #habr
https://habr.com/ru/articles/1091060/
Tags: vLLM, qwen3, Docker, CUDA, wsl2, локальные llm, GPU inference, openai-compatible api
Author: Qwertcoser
More from @tmfeed
  1. Oct 6, 2026Младшая модель обыграла старших: как Claude Sonnet 5.5 победил Opus 5.5 и Fable 5.1 в поша…
  2. Oct 6, 202610 кг, три экрана и защита от воды: пять ноутбуков для работы в сложных условиях #habr htt…
  3. Oct 6, 2026Нейросеть нашла источник, но ошиблась: проверяю восемь замен Perplexity на свежих фактах,…
  4. Oct 6, 202624 октября в Москве пройдёт конференция разработчиков на языке Perl #opennet https://www.o…
  5. Oct 6, 2026Выпуск OpenSSH 10.6 с устранением уязвимостей #opennet https://www.opennet.ru/opennews/art…
  6. Oct 6, 2026Сравнили 461 тысячу AI-ответов: упоминание бренда не коррелирует с цитированием источника…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →