Новости моего вайбкодинга

На время выпал из работы с нейронками по очень печально причине, но теперь в строю, продолжаю возиться с нейронками. Все последнее время настраивал себе на сервере работу с пакетом программ, о которых писал выше.

Дело не одного дня, можно сказать, муторное, но зато за это время поразбирался с контейнерами, сетевыми подключениями, пробрасываниями портов и пр. – кстати gemini мне выдал мне очень простое объяснение того, как все устроено, сделаю отдельный пост (он для ламерам, профессионалов прошу простить). В какой-то момент gemini забуквал – добили все с chatgpt o3. Вообще, мне очень нравится тема переключения между моделями, помогает. Gemini мне очень нравится, работаю с ней (максимально структурированные подсказки), но он в интернет не ходит, сам с терминалом не работает – поймал себя на мысли о том, что когда я все-таки сам пишу в терминал, учусь больше. Как итог – теперь у меня установлен мощный стэк, которому и сами нейронки удивляются – n8n (автоматизация и агенты), supabase (база для метаданных), qdrant, (база для векторов) flowise (агенты), ollama (загрузка нейронок), openwebui (интерфейс для нейронок) и еще куча всего. Самое главное работает на моем собственном домене.

Вчера поставил на сервер первую свою собственную нейронку. Для этого предварительно закупил дополнительной памяти – теперь у меня там 16Гб (лишние 2 тыс.), чтобы сэкономить отказался от подписки на Cursor, так как в последнее время им не пользуюсь, моя ближайшая цель – работа с n8n. Без этого были отдельные пляски с бубном на вечер работы, когда сервер забился под завязку и перестал работать.

Нейронка – для ембеддинга, чтобы не платить за OpenAI text-embedding-3-small. Долго выбирал, есть специализированные русские модели, но в итоге скачал BGE-M3 – одного из многоязычных опенсорсных топов.

В тот же день читаю новость про новую SOTA по эмбеддингу Qwen3-Embedding-0.6B. Пришлось ставить и ее )) Причем на ollama (где лежат все модели) ее еще развернуть не успели, поэтому скачивал с hagging face, заодно познакомился с GGUF файлами и прочими прелестями – спасибо, Клод помог, ведь он, в отличие от Gemini к интернету уже подключен.

Все работает, планирую потихоньку приступать к автоматизации в n8n. RAG буду делать именно там, через загрузку данных с google drive и распознавание их различными агентами, в зависимости от типа файлов.