[Мониторинг AI-приложений]

Познакомился с open-source решением Arize Phoenix.

Инструмент предназначен для экспериментов, оценки и устранения неполадок в приложениях ИИ и LLM.

Для примера сделал небольшой RAG, который получает данные из PDF. Делит текст из документа на чанки по 600 символов.
Каждый чанк преобразуется в векторные представления (эмбендинги), которые сохраняются в векторное хранилище в оперативной памяти. После создается retriever, который получает 5 наиболее релевантных фрагмента из документа. Далее эти фрагменты передаются в качестве контекста в LLM.

Инструмент мне понравился. Легкая установка. Приятный и современный UI.
Множество вкладок и метрик по каждому шагу работы приложения.


———
Задал вопрос. Получил точный ответ из книги.

На скрине видно какие чанки из книги были выбраны для контекста LLM. В том числе фрагмент, который содержит точный ответ на вопрос.

Прикольно)

———
Ссылка на документацию:
https://arize.com/docs/phoenix