Как структурировать ответы больших языковых моделей?

На Хабре продолжаем разбираться в тонкостях ML, на этот раз говорим про формальные грамматики — системы правил, которые ограничивают генерацию LLM и делают ее корректнее, позволяют перейти от хаотичной генерации к управляемому синтезу.

🔹 Как это устроено? Термины и типы формальных грамматик: регулярные, контекстно-свободные, контекстно-зависимые, неограниченные. Объясняем на примере простого языка emoji

🔹 Как заставить LLM говорить на нужном языке?

🔹 Как составить грамматики? Три примера: JSON-грамматика для трёх строк в массиве, грамматика для языка миграций моделей данных, грамматика PostgreSQL в GBNF из Bison+Flex

⚡️ Также в статье рассказываем про особенности преобразования Bison в GBNF.

Читать статью 🐘