От AGI к ASI - новый доклад Google DeepMind о том, что будет с ИИ после достижения уровня человека?

На днях вышла свежая статья от команды DeepMind, которая сформировала главный тезис: достижение AGI - не финал, а начало другого вопроса: что будет дальше?
Для начала авторы дают нам определения понятий:

AGI - система, которая достигает медианного человеческого уровня интеллекта на большинстве когнитивных задач.

ASI - система, которая превосходит десятки тысяч специалистов, работающих годами во всех областях.

UAI (Universal AI / AIXI) - агент, максимизирующий ожидаемое вознаграждение по всем вычислимым задачам.

Авторы используют шкалу Легга–Хаттера как формальное основание: интеллект - это средняя производительность агента по всем вычислимым задачам с весами по обратной сложности Колмогорова. На этой шкале существует непрерывный континуум от сегодняшних систем до UAI.

Google DeepMind выделяет 4 пути к ASI:

1. Масштабирование — продолжение текущего тренда. Даже без улучшения отдельной модели: миллион копий AGI, работающих параллельно - это уже другая реальность.

2. Смена парадигмы - трансформеры + RLHF не дотянут до ASI. Нужны принципиально новые архитектуры: нейроморфные чипы, аналоговые вычисления, RL-предобучение, явные мировые модели.

3. Рекурсивное самоулучшение. Полная автономия - открытый вопрос.

4. Мультиагентные коллективы - ASI как коллективное свойствоя, не один сверхумный агент, а миллионы AGI-агентов, организованных в корпорации, рынки, коллективы с высокополосной коммуникацией. Авторы ставят вопрос: нужны «законы масштабирования для многоагентных систем».

Что реально может остановить прогресс?

1. Рост моделей опережает производство текстов людьми. Синтетические данные пока деградируют при итеративном обучении. Спасение - симуляции и агентное взаимодействие с реальным миром.

2. Барьер абстракции. Гипотеза: ИИ, обученные на человеческих символах и концепциях, принципиально не способны открывать новые концепции из сырых данных. Мысленный эксперимент, если обучить современную LLM на знаниях до ньютоновской эпохи выведет ли она общую теорию относительности? Почти наверняка нет. Это ограничение может поставить потолок у уровня AGI для отдельной модели и потребовать перехода к воплощённому обучению через физическое взаимодействие с миром.

3. Регуляция и замедление. Страны, вводящие ограничения в одностороннем порядке, проигрывают конкурентно.

Авторы отмечают, что ASI не будет всемогущим. Скорость света, теорема Гёделя, NP-полнота, физическая невозможность произвольных конфигураций материи - ASI остаётся в рамках физики и теории вычислимости.