Open WebUI больше не FOSS
Вроде бы есть о чем писать сюда в канал, но пока не пишется. Одной из таких тем в планах было рассказать, какие локальные/приватные инструменты я использую с нейросетями.
Краеугольный камень моего стека — некогда прекрасный self-hosted LLM/GenAI-интерфейс Open WebUI. Он умеет: workspaces с эмбеддингом локальных документов (устоялось название Knowledge) для RAG'a; относительно сложные pipelines для интеграции сторонних API и сервисов, включая внешний RAG (например, обогащать промпт контекстом из live поисковой выдачи или конвертация URL из промпа в Markdown налету через JinaAI); исполнение кода (Python/Mermaid/JS) и рендеринг артефактов (HTML); интеграция с MCP и многое-многое другое.
За год активного использования я довольно сильно инвестировал в экосистему OWUI, оброс удобными лично мне конфигурациями, интеграциями, промптами, шорткатами. Единственным минусом, который меня беспокоил, был (непомерно) огромный размер образов и контейнеров в docker-стеке для, казалось бы, просто SvelteKit web-приложения с утилитами. Особенно, для кейса, когда вы отказываетесь от локальных моделей в пользу только сторонних OpenAI API-compatible сервисов — весь стек все равно занимает от пяти до десяти гигабайтов на диске.
И вот теперь они сменили лицензию с BSD-3 на свою частную Open WebUI License с CLA. Зачем так делать и куда мигрировать — абсолютно не понятно.
Обсуждение: Reddit/LocalLLaMA и HackerNews.
Post #604
371