Обсидиан и нейросети - второй подход

Друзья, надеюсь среди моих читателей ещё остались люди, которым интересна тема управления информацией и создания персональной базы знаний)). И если такие остались, то возможно им будет интересно продолжение серии моих постов про работу с заметочником Obsidian (в который я переехал с Evernout'а).

Напомню, что в апреле 2025 у меня в блоге был длиннопост о том, как я использую Obsidian ( https://s-kalinin.blogspot.com/2025/04/obsidian.html ); а в августе в моих пабликах (в ВК и ТГ) по саморазвитию была заметка под названием «Обсидиан и нейросети - первый опыт».

В ней я подробно писал о том, как установил на рабочий ПК (под Win 10) Ollama (менеджер для работы с локальными нейросетями); загрузил парочку локальных моделей; и с помощью плагина Local GPT прикрутил их к Обсидиану.

В заметке про "первый опыт" я также подробно описываю функционал плагина Local GPT. В нём есть как встроенные промпты, так и возможность добавлять свои собственные. Например, я использовал такие функции как рерайт заметки (в т.ч. форматирование с учётом требований к оформлению различных соц.сетей/ресурсов); обобщение и выделение главных идей; перевод с/на иностранный язык; поиск новых идей по теме, и др.

Всё это замечательно (неплохо усилило мою продуктивность), но не хватало двух важных вещей: 1) работы со ВСЕМИ заметками; 2) подтягивания полезной информации из Интернета. Поясню.

1)Плагин Local GPT даёт возможность обрабатывать с помощью нейросети только ОДНУ конкретную открытую заметку Обсидиан. Но при этом у плагина нет функции RAG, т.е. способности индексировать все заметки в хранилище (Vault) Обсидиан. Соответственно, нет возможности осуществлять семантический поиск; т.е. нет возможности сравнивать, анализировать, обобщать, выявлять связи (и т.д.) информацию сразу по всей базе.

2)Понятно, что смысл установки нейросеток только на свой ПК (локальных) прежде всего в безопасности – всё, что они будут знать про вашу базу знаний, никуда не утечёт. Но с другой стороны, иногда нужны какие-то конкретные факты/документы (и т.п.), о которых локальная нейросеть не знает, и которые можно найти только в интернете. Конечно, всё это можно поискать и ручками в любом поисковике, но это требует отдельных телодвижений (а хотелось бы удобное решение "всё в одном").

…И вот в сентябре 2025 Ollama выкатывает локальную модель gpt-oss:20b , которой опционально можно включать доступ в интернет. Я уж было обрадовался, но не тут-то было: внезапно выяснилось, что мой старичок-компьютер нейросетку на 20 биллионов параметров просто не потянет. И самое слабое место – видеокарта, старушка GeForce ещё 2000-ой серии с 4 Гб видеопамяти. Пришлось поскрести по сусекам и приобрести GeForce RTX 5060 Ti с 16 Гб на борту. Это конечно "самый минимум из приличного", и вовсе не 6000-ая серия (карты, специализированные для нейросеток), но ценник на видеокарты сегодня уж больно не гуманный(((.

Тем не менее, на новой видеокарте модель gpt-oss:20b вполне себе завелась и довольно шустро отыскала мне в сети парочку запрошенных научных статей. Разумеется, работает она медленнее, чем тот же ChatGPT в браузере, но результаты выдаёт вполне корректные. И главное (повторюсь) доступ нейросетки в интернет можно включать/отключать по необходимости.

Если со второй проблемой (доступ в интернет) разобрались, то что делать с первой – возможностью нейросетки работать со всей базой заметок Обсидиан? На самом деле уже сегодня существует с десяток плагинов Обсидиан, реализующих функционал RAG (индексирование и семантический поиск по всем файлам/заметкам в базе). Это только официальных (устанавливаемых через "Плагины сообщества"), а разрабатываемых на GitHub'е ещё больше. Среди самых известных: Copilot ( https://www.obsidiancopilot.com/en ); Smart Connections ( https://github.com/brianpetro/obsidian-smart-connections ); ChatGPT MD ( https://github.com/bramses/chatgpt-md ); Smart Second Brain ( https://github.com/your-papa/obsidian-Smart2Brain ) и др.


...читать продолжение...