SakanaAI доказали, что, работая вместе, ИИ-модели могут решать более сложные задачи

Японская лаборатория не впервые работает в этом направлении. В этот раз они предложили метод AB-MCTS – он позволяет объединять размышления нескольких моделей на инференсе, и тем самым повышать точность итоговых ответов.

Это как у людей. Одна светлая голова – хорошо, а две – лучше. В данном случае Sakana объединили Gemini 2.5 Pro, o4-mini и DeepSeek-R1-0528.

И посмотрите на график: на ARC-AGI-2 вместе они выбивают результаты гораздо лучше, чем каждая из них по отдельности.

Алгоритм там на основе деревьев поиска. Обычно такие деревья масштабируются либо в глубину (уточнение исходного решения), либо в ширину (генерация новых решений). Но здесь исследователи выкрутились и сделали масштабирование гибким: на всех шагах построения дерева соблюдается баланс между шириной и глубиной.

Для этого обучается специальная вероятностная модель, которая оценивает, стоит ли сейчас вырастить дерево в глубину или в ширину. Аналогичная модель решает, какую LLM стоит использовать на этом шаге (в зависимости от того, что предстоит сделать). Например, методом проб и ошибок вероятностная модель может понять, что для написания текста лучше брать o4, а для кода – Gemini.

Код, кстати, выложили в опенсорс, так что можно поиграться

Блог | GitHub | Статья