Продолжаю описывать статьи, принятые на EMNLP

«Unconditional Truthfulness: Learning Unconditional Uncertainty of Large Language Models»

Работа посвящена оценке неопределённости в генерации LLM — важной задаче для выявления галлюцинаций и недостоверных ответов. Авторы предлагают новый способ обучения модели безусловной неопределённости, которая учитывает взаимозависимости между шагами авторегрессионной генерации. Для этого они используют признаки из attention весов и вероятностей на каждом шаге, а также предлагают двухэтапную процедуру обучения с рекуррентными признаками.
Результат — значительное повышение качества selective generation, где модель должна «замолкать», если не уверена.

📍 Hall C Session 13
🕓 Fri. Nov 7 10:30–12:00
📎4520-Main