🦙 Что такое Ollama

Ollama — это опенсорсная платформа с лицензией MIT, которая скачивает большие языковые модели и запускает их на вашем компьютере. Все вычисления происходят локально: запросы и ответы не покидают машину, платить за токены не нужно, а после того как модель скачана, Ollama работает даже без интернета.

Частая путаница: Ollama нейросетью называют сплошь и рядом, но сама по себе она ничего не генерирует. Это среда запуска, что-то вроде плеера для моделей. Плеер один, а треки в него можно загружать разные: Llama от Meta, Qwen от Alibaba, DeepSeek, Gemma от Google и ещё сотни моделей из открытой библиотеки. Ollama берёт на себя всю грязную работу — скачивание, распаковку, загрузку в память, общение с видеокартой, а вам оставляет простой интерфейс: написал запрос, получил ответ.

В статье разобрали, что это за платформа, какое железо ей нужно, поставим её на Windows, macOS и Linux, скачаем первую модель и подключим к ней графический интерфейс и другие программы: https://v.thecode.media/48an7

→ До 30 сентября действует скидка 16% на курсы Практикума