всем привет, хочу рассказать про еще одну работу, которую у меня приняли на EMNLP

называется она "How to Speculate about Uncertainty in Agentic Coding? A Draft-Model Gate Method" и ее суть показана на картинке к посту

если по-простому, то по логитам токенов агентной траектории можно посчитать, насколько модель уверена в том, куда она идет; и если не уверена, попросить пройти еще раз; это позволяет снизить ошибки на 6-8% и снизить стоимость в токенах на 15%

больше деталей можно найти в препринте; как всегда, будем рады вашим цитатам

@valuableai