RAG в JVM-стеке: AI-ассистент на Spring AI без Python

Команда автора статьи внедрила AI-ассистента для внутренней системы, не переходя на Python. Взяли Spring AI, PostgreSQL с pgVector и быстро убедились: качество ответов упирается не в код, а в данные. Документация оказалась разрозненной, стандартное разбиение на чанки теряло контекст.

После экспериментов с перекрытием и секциями пришли к простому решению: векторный поиск идёт по чанкам, но в ответ передаётся полный текст секций, к которым относятся найденные фрагменты. Это сохранило точность поиска и устранило разрывы инструкций. Главный вывод — модель не добавляет знаний, а лишь отражает зрелость документации. Улучшение базы знаний дало больший прирост качества, чем выбор более мощной LLM.

Для Java-разработчиков — готовый кейс внедрения RAG в привычном стеке. Подробности с примерами кода — в статье: https://habr.com/ru/companies/raiffeisenbank/articles/1012666/