🤖 RAG-система для разработки готова
Собрал систему для 4070Ti с OpenSearch + Open WebUI + Ollama.
Что сделал:
• Сделал систему синхронизации
• Сделал бенчмарк и проверил кучу моделей
• Добавил тулз для Agentic RAG на базе OpenSearch
• Добавил сказки про агыров для контекста 🧙♂️
Результат: модель находит актуальные версии библиотек и отвечает по базе знаний.
Лучшая модель — qwen2.5-coder:14b (13 сек холодный старт, 11 сек горячий)
Post #1778
334






- 🔥 8