Каждое четвертое предложение в ответах систем "генеративного поиска" — галлюцинация

К такому выводу пришли исследователи по результатам оценки качества работы новых продуктов, часто позиционирующихся в качестве замены традиционных поисковых систем.

Идея в том, что новые системы основаны на методе RAG (retrieval augmented generation):
1) поисковая подсистема по запросу пользователя ищет релевантные результаты в поисковом индексе (как обычный поисковик),
2) генеративная подсистема резюмирует найденное, стараясь дать внешне стройный и полезный ответ.

Но, как показывает исследование, несмотря на преимущества подобного подхода, полноценной заменой традиционных поисковиков такие системы пока быть не могут: уровень галлюцинаций в них ещё слишком высок. В среднем только 51,5% ответов поддерживается какими-либо ссылками, при этом только 74,5% приводимых ссылок релевантны (подтверждают сгенерированные ответы).

По собственному опыту отмечу: результаты исследования не означают, что эти новые системы бесполезны. В ряде случаев они помогают в работе, в частности, на начальных стадиях исследования по какому-либо вопросу.

Но все ответы этих систем, как и в принципе любые результаты работы систем генеративного ИИ, необходимо обязательно перепроверять перед тем, как использовать их в любых мало-мальски ответственных задачах.