Локальная нейросеть устанавливается непосредственно на домашний компьютер, ей не нужен ВПН (хотя при необходимости сходить в Интернет она может) и за неё не надо платить (точнее говоря, в свободно скачиваемом доступе можно найти лишь бесплатные нейросетевые модели). Разумеется, локальные нейросети не такие продвинутые, как какие-нибудь свежие интернет-версии ChatGPT (особенно платные).

Кроме того, возможности локальной нейросети очень сильно ограничены мощностью компьютерного железа. Например, многие локальные нейросетки оптимизированы под использование мощностей графических процессоров (которые встроены в видеокарты и используются для майнинга))). Но ведь далеко не у всех мощные видеокарты (они стоят сейчас как крыло самолёта). У меня вот старушка GeForce двухтысячной серии…

Потребность нейросети в производительном железе зависят от ряда параметров: квантификации, количества параметров, длины учитываемого контекста и др. Обычно чем БОЛЬШЕ значение этих параметров, тем точнее и подробнее ответы нейросети на на наши запросы. Запустить на стареньком железе можно практически любую нейросеть (с любым количеством параметров), но не удивляйтесь, что искать ответ на простенький вопрос она будет несколько часов или даже дней))). Поэтому всегда приходится искать разумный компромисс между производительностью и точностью/подробностью.

Как я прикрутил локальный ИИ к моему Obsidian? Рассказываю по шагам:

1.Скачиваем Ollama здесь: https://ollama.com/download . Для тех, кто не в курсе, ollama – это специальный фреймворк (оболочка), облегчающая установку нейросетевых моделей. Для Винды (нужна версия Windows 10 и старше) установочный пакет весит 700 Мб. Скачиваем, устанавливаем (по умолчанию только на диск С: ).

2.Запускаем после установки, но пока оболочка пуста и к ней нужно подгрузить сами нейросети. В версии под Windows по умолчанию даётся возможность (см.картинку) добавить три нейросети: Gemma, DeepSeek, Qwen разных версий. Обозначения достаточно просты, например, qwen3:30b расшифровывается так: нейросеть Qwen (от китайской компании AliBaba), версии 3 (это самая свежая версия, выпущенная 28 апреля 2025 года), 30b - учитывающая 30 миллионов параметров. Для сравнения модель qwen3:4b будет учитывать всего 4 миллиона параметров; т.е. она будет более легковесной, будет выдавать ответы быстрее, но будет менее точной, чем модели с бОльшим числом параметров.

Если вы не знаете, какую модель выбрать для установки, то на сайте ollama есть раздел "Модели" ( https://ollama.com/search ), где можно найти краткую справку по каждой нейросети. Например, мне были интересны "рассуждающие" (thinking) модели и специализирующиеся на работе с текстом. В итоге я остановил свой выбор на DeepSeek ( https://ollama.com/library/deepseek-r1 ) и Qwen3 ( https://ollama.com/library/qwen3 ). Эти нейросети мне знакомы; а вот про Gemma ( https://habr.com/ru/companies/bothub/articles/914078/ ) я почти ничего не знаю; изучу и м.б. добавлю тоже.

Добавляются нейросетевые модели так: в окошке ollama нажимаете на флажок и в выпавшем меню выбираете интересующую модель (см.рисунок; у меня там deepseek-r1:8b), затем там где написано "Send a message" пишете ЛЮБОЙ запрос (например, "Расскажи о своих возможностях"), жмёте на стрелочку справа, после чего ollama начинает скачивать выбранную модель. Как только модель скачается и автоматически установится, появится ответ на ваш запрос. Вот собственно и всё: нейросеть установлена, и ей можно пользоваться как обычной виндовс-программой)).

У каждой из выбранных мною модели ( deepseek-r1:8b и qwen3:8b ) установочный пакет весит более 5 Гб, и по умолчанию они ставятся на диск С: . Так что смотрите, чтобы там было достаточно места для установки и дальнейшего использования.

3.Чтобы подружить Obsidian с установленными на ПК нейросетями, к нему нужно добавить два плагина: сначала AI Providers (облегчает обнаружение установленных нейросетей и автоматически настраивает ряд параметров, например, для выхода в интернет), затем Local GPT.