Запуск AI-моделей локально

Просто для понимания: ChatGPT 5, Gemini 3, Grok 3 и т. д. – это самые популярные AI-модели от крупных компаний

Но на самом деле этих моделей огромное количество. Только в открытом доступе на Hugging Face находится более 2.2 млн моделей под разные задачи (каждую из которых можно скачать и запустить у себя локально – если, конечно, хватит железа)

Один из самых простых способов запустить модель локально – использовать DMR (Docker Model Runner)
Если вы впервые слышите слово "Docker", ничего страшного. Чтобы скачать и запустить модель, вам не придётся писать код или вводить команды, так как у DMR есть понятный пользовательский интерфейс (см. скрин).

Без лишних слов – всё описал в конспекте:

Читать: DMR: запуск AI-моделей локально

P.S. А вообще, на канале есть урок про основы Docker и docker-compose для кодеров

SemolinaCode | Chat | YouTube | HowToCode | Prop