Помню, еще в универе после курса по публичке в каком-то баре выступал с общим тейком, что:
Концентрация – это не про то, чтобы говорить "да" важному, а про то, чтобы говорить "нет" тоже важному, но не самому
Так какого черта тогда я сейчас хватаюсь за все подряд?
А я сейчас просто не особо понимаю, что на самом деле важно. Поэтому использую "жадный" подход – набрал побольше, что-то зацепилось и поперло, а что "отклеилось". Верю, если не пиздеть себе, то не важное правда отклеивается.
———
А теперь разгон из серии "все о разном и все об одном":
Все уже два года как известно, что если попросить GPT думать по шагам прежде чем давать ответ, то результат оказывается лучше. Этот подход называется Chain of Though (CoT, цепочка мыслей).
Проблема в том, что если рассуждение модели с самого начала пошло в неверном направлении, то скорее всего она и дальше пойдет туда. Чисто как люди 🤷♂️
Так вот, сейчас все популярнее еще один подход, которым уже решают задачи, лучше чем их решали человеческие ученые. Он называется Tree of Thought (ToT, дерево мыслей).
Тут генерируется не одно направление, а сразу несколько. С расчетом, что хотя бы одна ветка приведет к хорошему результату.
Когда на каком-то шаге рассуждений становится понятно, что ветка не актуальна, то она отбрасывается (особенно круто, когда можно это явно проверить, как в математических кейсах в ссылке выше).
Получается такая эволюция. А вот, кстати, бактерии, которые проникают сквозь слои антибиотика (на каждом слое концентрация в 10 раз выше). Большая часть отваливается, но какие-то двигаются дальше