🧠 ИИ может «думать дольше», не генерируя длинную цепочку рассуждений
Исследователи представили Looped Flows - метод, который позволяет модели многократно уточнять внутреннее представление задачи перед выдачей ответа.
Проблема таких моделей - обучение: сложно научить каждый шаг быть полезным для следующих, когда градиенты проходят лишь через несколько обновлений.
Авторы обучают отдельные шаги на небольших задачах удаления шума, связывая их общим шумом и постепенным снижением его уровня. Так модель учится сохранять полезную информацию между обновлениями.
При решении задачи можно выделить больше вычислений на дополнительные внутренние шаги - без увеличения текстовой цепочки рассуждений.
📊 Результаты на ARC-AGI:
* 58,8% на ARC-AGI-1;
* 12,2% на ARC-AGI-2.
На шести тестах рассуждения метод в целом превзошёл предыдущие ведущие модели с повторяющимися вычислительными блоками. Это результаты специализированных моделей, а не готовый способ улучшить любую LLM.
https://arxiv.org/abs/2609.11801
Post #3565
1.02K

- ❤ 4