В сентябре 2026 года в отрасли снова спорят о том, что считать искусственным интеллектом человеческого уровня — artificial general intelligence (AGI). Появился удобный ответ: AGI наступит тогда, когда ИИ сам сможет вести исследования ИИ и создавать своего преемника, то есть при достижении рекурсивного самоулучшения или recursive self-improvement (RSI).

1. Начну с определений, чтобы не потеряться на смешении понятий.
AGI (artificial general intelligence) описывает широту способностей: система считается общей, когда она справляется с большинством экономически ценных задач на уровне человека.
RSI (recursive self-improvement) описывает механизм развития: система улучшает саму себя или своего преемника, и каждое улучшение облегчает следующее.
ASI (artificial superintelligence) описывает уровень способностей: система превосходит всех людей практически во всём. Эти три оси:

• широта способностей,
• механизм развития
• и уровень способностей

логически независимы друг от друга. Можно представить себе очень общую систему, которая не умеет вести собственные исследования, и узкую систему, которая отлично улучшает один класс алгоритмов и при этом бесполезна в остальном. Когда кто-то говорит, что AGI будет достигнут при достижении RSI, он склеивает все три оси

Полезно держать в голове рамку Google DeepMind из работы Морриса и соавторов (Morris et al., Levels of AGI, 2023), где способности раскладываются отдельно по глубине (performance) и по широте (generality), а автономность вынесена в третье измерение. Определять AGI через RSI означает заранее гарантировать себе право объявить победу, когда заработает средство, даже если сама цель, широкая человекоподобная способность, еще не достигнута.

2. Сама идея AGI via RSI не новая. Ещё в 1965 году И. Дж. Гуд в статье Speculations Concerning the First Ultraintelligent Machine описал интеллектуальный взрыв, написав дословно, что сверхразумная машина могла бы проектировать еще лучшие машины, и что первая такая машина станет последним изобретением, которое человеку нужно будет сделать, при условии что машина достаточно послушна, чтобы объяснить нам, как держать её под контролем. Оговорка про контроль в этой цитате теряется, а зря. Современная версия идеи звучит посуше и коммерчески более точной.