Рекурсивное самоулучшение: пена и волна

Сентябрь был насыщен не только выходом новых моделей и разговорами о безопасности ИИ, но также и поднятием темы рекурсивного самоулучшения. В частности, на прошлой неделе вышла статья Google и DeepMind Dream-RSI: Recursive Self-Improvement through Evolving Worlds. Что означает RSI, и почему это важно?

🌀 Рекурсивное самоулучшение - это процесс, при котором система улучшает собственные интеллектуальные возможности. Улучшенные возможности позволяют ей улучшить себя еще больше и быстрее. И так далее. Ускоряющаяся последовательность самоулучшений ведёт к «взрыву интеллекта». Это радикально отличается от предобученных статичных больших языковых моделей.

Однако, если присмотреться, Dream-RSI — тоже не самосовершенствующаяся машина в сильном смысле. В ней не меняются базовая модель, её веса, архитектура, оценщик и класс задач. Система улучшает лишь метастратегию поиска: где продолжить уже начатую ветку работы, что запускать параллельно и когда остановиться.

Контур устроен так: кодинг-агент ищет решение и сохраняет дерево попыток с результатами. Затем другой агент предлагает варианты поисковой стратегии и дешёво проверяет их на этом дереве — без повторного запуска дорогих экспериментов. Лучшую стратегию снова выпускают в реальный поиск, и она производит новый опыт для следующей итерации.

Это полезное рекурсивное улучшение оркестрации поиска: на задачах алгоритмов, оптимизации и GPU-ядер авторы сообщают о сопоставимом или лучшем результате при меньшем вычислительном бюджете. Но это не означает, что система поняла и улучшила собственную когнитивную организацию. Её мир ограничен уже пройденными ветками, а улучшать разрешено один заранее выделенный компонент.

Подлинное RSI в глубоком смысле было бы другим: система способна улучшать свои представления, обучение, память, рассуждение, архитектуру и инструменты; каждое улучшение повышает её способность находить следующее. Машина Гёделя Юргена Шмидхубера — предельный теоретический образ такого процесса. Работающей системы этого типа пока нет.

Но Dream-RSI — это всё же какой-то шаг в данном направлении, тогда как в заявлениях OpenAI и Anthropic о том, что между ними началась «гонка напрямую к самоулучшающемуся сверхинтеллекту» (как отмечается в критическом обзоре последнего ИИ-хайпа), точно лишь слово «гонка».

Критики правы, когда говорят, что громкие формулировки быстро расходятся с последующей экспертной проверкой, и что не стоит антропоморфизировать модели и не подменять разговор о сегодняшних рисках фантазией о немедленной сверхинтеллектуальности. Однако из этого все же не следует, что всё происходящее — только маркетинг.

⚙️ Настоящая перемена происходит на уровне всей области ИИ. ИИ уже помогает писать и проверять код, оптимизировать GPU-ядра и инфраструктуру, искать алгоритмы, вести массовые эксперименты, строить оценщики, готовить данные и интегрировать результаты. Эти улучшения входят в создание следующего поколения моделей и агентов, не только углубляя, но и расширяя фронт развития ИИ.

Таким образом, пока нет автономного интеллекта, который сам без границ переписывает себя, превращаясь в сверхразум. Но технологии ИИ начали заметно ускорять прогресс в самом ИИ — то, о чём сторонники сингулярности давно говорили, но что прежде толком не работало на практике.

Последний хайп — во многом пена. Но это пена на волне реального процесса: ИИ уже превратился в инструмент ускорения собственного развития. В текущем году это ощущается крайне сильно. Но этот инструмент пока ещё в руках человека.