День 2577. #Оффтоп #AI
Языковым Моделям Нужна Функция «Отметить как Ответ»
Современные LLM уже усвоили практически всю доступную информацию для построения своих моделей. Для дальнейшего совершенствования им потребуется искать дополнительные источники информации. Одним из очевидных таких источников является взаимодействие с пользователями. И важный аспект в этом - оценка качества. Как LLM узнает, привёл ли данный обмен сообщениями к решению? Без этих знаний LLM не сможет отдавать приоритет ответам, которые в итоге оказались более полезными.

Форумы и Stack Overflow
Некоторые из моих читателей достаточно стары, чтобы помнить времена до Stack Overflow. Тогда, когда у вас возникала проблема, вы вводили сообщение об ошибке в Google и надеялись, что кто-то уже сталкивался с этой проблемой. Форумы были основным источником ответов. Но даже если вы находили подходящую тему на форуме, часто приходилось пролистывать множество ответов, чтобы увидеть, решил ли кто-нибудь проблему. Иногда автор писал, что нашёл ответ, но не делился им. Одним из правильных решений Stack Overflow было предоставление возможности и стимулирование пользователей отмечать конкретный ответ как решение.

Так эффективность поиска и предоставления ответов значительно возросла. Люди могли быстро найти ответы, которые, скорее всего, сработали, поскольку они уже помогли кому-то другому с аналогичной проблемой. Эта функция в сочетании с геймификацией во многом способствовала полезности и популярности Stack Overflow. Также она превратила данные Stack Overflow в золотую жилу для ИИ-компаний, которые воспользовались политикой открытых данных Stack Overflow для обучения своих моделей на многолетних исторических данных вопросов и ответов. К сожалению, это и привело к гибели Stack Overflow.

Но без миллионов новых вопросов и ответов для обучения, откуда модели ИИ будут брать данные, которые им необходимы для предоставления релевантных и полезных ответов?

Новый источник данных
Очевидным источником данных являются собственно диалоги пользователей с существующими моделями. Эти диалоги представляют собой огромный объём информации, в основном текстовой, но они страдают от той же проблемы, что и ранние форумы: каков был результат?

Подумайте о типичном диалоге с чат-ботом. Вы задаёте вопрос, он даёт ответ. Иногда он полезен, иногда нет. Иногда приходится перефразировать первоначальный вопрос, добавить контекст, уточнить. Или вы задаёте совершенно несвязанный вопрос в том же чате, потому что… а почему бы и нет? Чат-бот не скажет, что это «не по теме» — он с удовольствием ответит на любой ваш вопрос.

Теперь представьте, что вам поручено определить, какие ответы чат-бота были наиболее полезными. Конечно, иногда пользователи помогают и пишут в чат: «Спасибо, это работало!» или «Нет, это не то, что мне нужно». Но чаще всего они просто закрывают сессию или задают другой вопрос, независимо от того, решили они проблему или просто сдались.

Поэтому кажется, что в ближайшем будущем LLM-агентам будет крайне важно активно запрашивать у пользователей информацию о том, был ли предоставленный ими ответ полезен. Явный вопрос о том, привёл ли данный ответ или диалог к успешному решению исходной проблемы, позволит моделям постоянно совершенствоваться со временем, а не деградировать до уровня форумов прошлых лет.

Итого
ИИ-агентам необходимо будет обучаться на основе своих диалогов с пользователями, чтобы продолжать учиться. Однако, если это делать без явных данных, указывающих на то, решил ли данный ответ данную проблему, будет очень сложно определить, каким ответам следует придавать больший вес, чем другим. Добавление механизма, аналогичного функции «отметить как ответ» на Stack Overflow, к взаимодействиям с LLM обеспечит этот сигнал и позволит в будущем обучать модели на ответах с большим весом, что со временем повысит полезность модели.

Источник: https://ardalis.com/llms-need-mark-as-answer/