Дробление промтов для выполнения узких задач

Несмотря на то, что LLM становятся всё умнее, многие специалисты всё равно советуют сужать промт для выполнения одной узкой задачи.
Это применимо и к промтам в пайплайне своего AI продукта.
Узконаправленный промт даёт более качественные и стабильные результаты, снижает галлюцинацию модели.

Таким же путём мы идём в нашем ассистенте.
Сначала мы делаем классификацию запроса пользователя, дальше в зависимости от результата классификации - уходим в нужную ветку пайплайна.
Например, если пользователь описывает симптомы - включаем промт сбора анамнеза, далее собранный анамнез параллельно запускам в промты формирования вариантов диагноза, рекомендаций по сдаче анализов, прохождению обследований и т.д.
В конце результаты этих промтов формируюем в итоговый ответ для пользователя.

Это кратко, на самом деле каждый из этих промтов будет разложен ещё на несколько под-промтов с определённой логикой между ними.
Плюс мы закладываем проверки безопастности и этики на разных этапах.

И заодно поделюсь планом работы над нашим консультантом/ассистентом.

Сейчас мы прописываем структуру промтов, объединяем в пайплайн.
Тестируем каждый промт и пайплайн в целом на разных моделях.

Следующим шагом будем собирать данные для подключения через RAG на разных шагах пайплайна, чтобы настроить ответы сервиса под документы из Российской доказательной медицины.

И если нам повезёт, то после этого сможем запустить первую версию и начать привлекать пользователей.

А дальше нас ждёт долгий путь дообучения модели)