Как научить LLM писать SQL для банка? ⚡

На Saint HighLoad++ наш коллега Никита Круглов, DS-разработчик, рассказал, как команда Альфы создавала сервис Text2SQL, который переводит запросы на естественном языке в SQL-запросы к данным банка.

Сегодня сервис помогает аналитикам работать с данными без знания SQL. В нём уже описано 200+ таблиц, а спрос со стороны команд растёт.

В докладе Никита подробно рассказал:
▶️ Какую актуальность представляет Text2SQL для банка
▶️ Как устроена архитектура сервиса, выделив ключевые компоненты влияющие на генерацию SQL
▶️ Как команда контролирует качество сервиса, оценивает работу tool calling, поиска документов и генерации SQL на «золотом» датасете
▶️ Почему успех Text2SQL зависит не только от архитектуры модели, но и от пользователей
▶️ Поделился, какие шишки команда успела набить по пути создания собственного Text2SQL

А подробнее про сервис узнавайте из презентации с выступления 🔽

#aaa_event