🇨🇳Для «больших языковых моделей» добавили «систему самоанализа».

Группа исследователей ИИ из китайской технологической компании Baidu Inc. предложила новую структуру проверки правильности ответов, разработанную для повышения надежности LLM (больших языковых моделей).

За последние два года LLM (большие языковые модели), такие как ChatGPT, стали применяться очень широко. Но остается одна очевидная слабость LLM — их неспособность проверять собственные результаты, чтобы убедиться, что они не представляют пользователям «галлюцинации», то есть ответы, которые не имеют смысла. Это не позволяет использовать ИИ для действительно важных приложений, которые полагаются на целостность данных и чье применение критично к ошибкам.

Команда Baidu придумала стратегию, направленную на то, чтобы заставить LLM проверять свою работу перед тем, как предоставить результаты конечным пользователям.

Новый подход заключается в добавлении трехэтапного процесса в движок LLM непосредственно перед представлением результатов. Первый — добавить модель, учитывающую релевантность результатов промпту пользователя. Второй этап включает в себя выбор из серии ответов, учитывающий доказательства, основанные на релевантных документах. Третий этап включает в себя модуль анализа траектории, который проводит четкий и краткий анализ того, как LLM пришла к тому выводу, который модель считает правильным.

Исследователи предполагают, что такие дополнения, могут привести к более надежным LLM. Это сделает модели пригодными для большего количества приложений. Ученые также предполагают, что они откроют возможность создания новых моделей.