b) Оценки фронтиер-лабораторий 2025 и 2026 годов огромны. OpenAI 2 октября 2025 года завершила вторичную продажу акций на 6,6 миллиарда долларов при оценке 500 миллиардов долларов, из авторизованных 10,3 миллиарда, обогнав SpaceX как самая дорогая частная компания мира. Anthropic закрыла раунд Series G на 30 миллиардов долларов 12 февраля 2026 года при post-money оценке 380 миллиардов долларов, ведущие инвесторы GIC и Coatue. xAI закрыла увеличенный раунд Series E на 20 миллиардов долларов 6 января 2026 года при оценке около 230 миллиардов долларов, причем сама компания подчеркнула, что раунд превысил целевые 15 миллиардов. Обещание цикла самоулучшения оправдывает такие капитальные затраты лучше, чем обещание еще одного полезного продукта.

c) Контракт OpenAI и Microsoft показал, как дорого стоит определение AGI. По условиям реструктуризации октября 2025 года объявление AGI со стороны OpenAI теперь проверяет независимая экспертная панель, права Microsoft на интеллектуальную собственность продлены до 2032 года и включают модели после AGI, а выплаты доли доходов идут до 2030 года. Определение AGI стало юридическим переключателем на десятки миллиардов долларов, и лаборатории заинтересованы контролировать его формулировку.

d) Порог RSI совпадает с их собственными порогами безопасности. Политика Anthropic Responsible Scaling Policy вводит уровни AI R&D-4 и AI R&D-5: первый это способность полностью автоматизировать работу младшего исследователя, второй это способность вызвать резкое ускорение разработки ИИ, то есть фактически RSI, и он требует уровня защиты ASL-4. У OpenAI критический порог AI Self-improvement определён похоже: сверхчеловеческий исследовательский агент или сокращение времени смены поколения модели в пять раз, удерживаемое несколько месяцев. Когда безопасность и объявление AGI завязаны на один и тот же порог, удобно называть его главным, потому что тогда история про безопасность и история про победу рассказываются в одной терминологии.

Но положительная обратная связь не равна неограниченному росту. Монотонно возрастающая последовательность может иметь конечный предел: сумма ряда ½ + ¼ + ⅛ + … растёт на каждом шаге, но никогда не превышает единицы - это предел данной функции. Вопрос не в том, каков коэффициент усиления улучшения и где стоят ограничители. Ограничителей несколько, и по ним есть данные.

Вычисления
Многие сценарии программного интеллектуального взрыва предполагают, что софт улучшает софт без нового железа. Но серьёзные эксперименты требуют вычислений уровня обучения передовой модели, а рост вычислений упирается в физику, энергию и сроки поставки. Экономическая работа 2025 года показала, что при определённой связи между экспериментами и идеями вычисления становятся жестким узким местом, arxiv и программное ускорение живёт лишь до этого предела.

Идеи становится всё труднее находить
Это известный результат экономики роста: чтобы поддерживать постоянный темп улучшений, нужно вкладывать всё больше исследовательских усилий. Даже сторонники сценария взрыва у Forethought оценивают отдачу так, что одно удвоение когнитивного труда даёт около 1,2 удвоения выхода в среднем, с широким разбросом от 0,4 до 3,6. Если параметр ближе к нижней границе, “взрыва” не происходит вовсе, а происходит затухание.

Эксперимент и проверка
Даже идеальный автоматический исследователь должен ставить опыты и ждать результатов. Обзор Epoch AI прямо отмечает, что эксперименты не "серебряная пуля", потому что модель может быть ошибочной, а бенчмаркинг требует полного цикла обучения, доступного лишь горстке игроков.

Физическое строительство
Дарио Амодеи, оптимист, в эссе Machines of Loving Grace (октябрь 2024) признает, что даже целая страна гениев, живущая 24/7 в дата-центре, упрется в физические и практические пределы, например в скорость биологических экспериментов. Его формулы powerful AI и country of geniuses in a datacenter намеренно избегают слова AGI.

Человеческий вклад и стоимость