Недавно я писал про китайское исследование о том, почему байки про рекурсивное самообучение пока сильно оторваны от реальности: за громкими фразами в 75%+ случаев прячется банальная рутина уровня «сетка нагенерила синтетики по ТЗ инженера и проверила ее по чек-листу», а 5.9% работ по мета-улучшению не могут пережить собственный бенчмарк без деградации.
Но обратная позиция не сбавляет обороты. На днях авторы из Кембриджа вместе с топами OpenAI, Anthropic, Джеффри Хинтоном и Йошуа Бенджио выкатили манифест о взрыве интеллекта. Авторы моделируют «чисто софтверный взрыв интеллекта». Логика такая:
🟠 Anthropic рапортует, что у них доля одобренного кода, написанного моделями, подскочила с единиц процентов до 80%+, а 26% R&D-задач закрывается автономно. В OpenAI и Google похожая картина.
🟠 Текущих мощностей условной OpenAI уже хватает, чтобы запустить пул виртуальных ресерчеров, эквивалентный миллионам живых исследователей.
🟠 По формулам макроэкономики инноваций, если показатель отдачи от исследований r > 1 (а они насчитали от 1.2 до 1.9), то темпы прогресса разгоняются в 10 раз за какие-то полтора года. То есть годовой объём ресёрча будет пролетать за 5 недель.
Правда, авторы честно оговариваются и есть ряд серьезных бутылочных горлышек:
🔵 Закон убывающей отдачи. В реальном мире простые идеи быстро заканчиваются. Чтобы двигаться вперед, нужно экспоненциально больше вычислений и экспериментов.
🔵 Стена данных и верификации. Генерировать код и доказывать теоремы внутри песочницы с понятным компилятором просто. Как только мы выходим в физику, биологию или схемотехнику — быстрый цикл обратной связи исчезает. Там нужны реальные чипы, лаборатории и месяцы тестов.
🔵 Качество агентов. Миллион виртуальных джунов, генерирующих посредственный код и галлюцинирующих в тестах, не заменят одного сильного исследователя, способного придумать принципиально новую архитектуру вместо трансформера.
И вот следите за руками, как нужно упаковывать эти апокалиптичные цифры. Агентство Reuters публикуют инсайд про IPO Anthropic: они создают структуру Founder LLC и выпускают специальный класс акций Class F. Угадайте, сколько голосующих прав даёт эта одна-единственная акция семи отцам-основателям? Ровно 50.1%. Контрольный пакет.
Зачем? Официальная формулировка в проспекте эмиссии — чтобы «защитить руководство от рыночного давления во имя общего блага и безопасности». А для обычных инвесторов на бирже выпустят кастрированные акции Class A. В документе прямым текстом предупреждают будущих акционеров:
Руководство может принимать решения, которые прямо противоречат финансовым интересам компании и могут негативно влиять на стоимость акций Class A.
Перевожу с корпоративно-этического новояза на русский: «Дайте нам ваши миллиарды на IPO, но права голоса мы вам не дадим, отчитываться за просадки не будем, потому что мы спасаем человечество от сингулярности. А кто против — тот за восстание машин».
При этом генеральный директор Дарио Амодеи за 2025 год получил скромную компенсацию в $18 миллионов, а его сестра Даниэла — $16.4 миллиона. Видимо, наценка за вредность при удержании сверхразума на поводке.
Итого:
1️⃣ Топ-менеджеры подписывают академические статьи о том, что автоматизация AI R&D вот-вот устроит неконтролируемый взрыв и сломает баланс сил в мире.
2️⃣ Показывают пальцем на собственных агентов, ломающих Hugging Face в песочнице: «Видите?! Оно живое и опасное!»
3️⃣ Выходят на биржу и оформляют себе пожизненную несменяемую власть, прикрываясь экзистенциальным риском как идеальным рвом против акционеров и регуляторов.
...
4️⃣ PROFIT 💰
Автоматизация R&D действительно идет полным ходом, и глупо отрицать, что писать код руками рутинные пайплайны скоро станет моветоном. Но пока одни боятся восстания машин, другие на этом зарабатывают. На любых волнах медиа-истерик всегда спрашивайте: Cui bono?