Прочитал сегодня статью, про медицинские советы от AI-ботов.

Пациенты всё чаще обращаются к нейронным сетям за диагнозами и рекомендациями.
Но исследование Оксфордского университета ставит под сомнение безопастность таких консультаций.

По их мнению - 2 основных фактора, которые мешают ИИ стать полезным помощником в вопросах здоровья:

1. Многие пользователи не понимают как правильно сформулировать запрос к нейросети, какие данные передать, чтобы получить точный исчерпывающий ответ.

2. В ответе можно получить как разумные рекомендации, так и информацию из непроверенных источников. Банальные галлюцинации нейронных сетей в вопросах здоровья становятся критичными.

Решая именно эти проблемы мы и рассчитываем сделать наш AI-ассистент "Я здоров" лучше использования широкопрофильной LLM.

Наш ассистент - это не просто LLM.
Мы реализуем достаточно сложную схему, которая будет классифицировать запрос пользователя, задавать уточняющие вопросы, давать подсказки.
Подтягивать релевантные данные из медицинской карты и прошлой истории взаимодействия с сервисом.
И только потом запрос будет направляться в LLM, в нужную ветку с настроенными систем-промтом.

Для повышения достоверности мы обогащаем модель данными из клинических рекоммендаций и других источников данных доказательной медицины через RAG.

Насколько возможно - обвешиваем запросы и ответы проверками безопастности и этики.