Два подхода к разработке голосового AI: LLM-агент vs конечный автомат

В проектах с голосовыми AI-ассистентами мы в KTS чаще всего используем два подхода к управлению диалогом: LLM-агенты и конечные автоматы с отдельными компонентами. Выбор архитектуры влияет на гибкость диалога и уровень контроля системы.

LLM-агент.
С помощью realtime API мы встраиваем ассистента в голосового робота. LLM-агент управляет диалогом, адаптируется под контекст и принимает решения в зависимости от ситуации. Взаимодействие получается естественным и живым, без жёстких скриптов и шаблонных ответов. Но поведение модели не всегда предсказуемо, и у нас меньше возможностей для контроля.

Конечный автомат с отдельными компонентами.
Этот подход был единственно возможным до появления LLM. В нём мы разбиваем процесс взаимодействия голосового робота и пользователя на стадии:

— расшифровка аудио в текст;
— принятие решения на основе текущей фазы диалога;
— обновление состояния в конечном автомате или своей системе хранения контекста;
— генерация текста и преобразование обратно в речь.

Каждый шаг контролируется отдельно. Диалог детерминирован — мы точно знаем, как ассистент поведёт себя в каждой ситуации.

Как мы выбираем подход в проектах:

LLM-агент подходит для задач, где важна гибкость и естественное общение — консультации, сложные запросы, неструктурированные разговоры.

Конечный автомат — надёжное решение для строго регламентированных процессов: банковские операции, медицинские протоколы, юридические вопросы.

#александр_опрышко