А вы знали, что ollama всегда является клиент-сервером, просто по умолчанию слушает localhost?

Я к тому, что можно использовать интерфейс не только для подключения к серверу, а задать стандартные значения локального хоста


Казалось бы это понятно и очевидно, но я задумался о том, что это можно использовать в ollama.Client по умолчанию


Если говорить грубо: я работал над проектами нейросетевеого агента, который полноценно может работать с файлами, а так же отдельным проектом я работал с клиент-сервером ollama с раздачей в ZeroTier.. и оказывается соединить оба моих проекта в один не будет тяжело - я возьму за основу агента, а после просто сменю подключение на выбор для пользователя между подключением к серверу или запуском через локальную ollama



На бумаге я уже знаю что мне нужно делать, но проблема в том, что тяжело в одиночку реализовать всё...

Либо маленькими шагами брать наработки старых проектов и делать большую и красивую версию, которая удобно будет общаться с функциями, что по итогу позволит иметь любой интерфейс на выбор... Либо сразу делать всё красиво, но это путь в головную боль с requests, создание монолита с нуля и прочее...


Тем не менее сам по себе данный пост о том, что я не сижу на месте, я мыслю о проекте, причём довольно грандиозном для меня... Оттягивает только то, что это скорее всего велосипед, ведь кто-то уже сделал подобное, просто в моём инфополе не попадалось...

В любом случае надеюсь для портфолио пойдёт и к тому же может быть практика работы с контрибьютерами, если найду фронтендера для создания общения моих функций в интерфейс