Так почему же крупнейшие ИИ-компании заговорили о замедлении? Еще три версии.

(Предыстория: Дарио Амодеи (Anthropic) давно предупреждает о рисках ИИ. В новом эссе We Must Pace the Frontier он призвал притормозить развитие передовых моделей. Но впервые его публично поддержали Сэм Альтман (OpenAI), Илон Маск (xAI) и Демис Хассабис (Google DeepMind). Вот это и необычно.)

Эксперт Алексей Могильников разбирает три версии, которые сейчас ходят на рынке.

1️⃣Первая версия: атака на Google

До сих пор скорость прогресса в ИИ определяли два дефицитных ресурса: вычисления и исследовательские таланты.
 
Теперь сами модели всё активнее автоматизируют R&D: пишут и оптимизируют исследовательский код, проектируют эксперименты, запускают тесты и анализируют результаты.

Чем больше этой работы они берут на себя, тем слабее ограничение со стороны человеческого труда и тем сильнее скорость прогресса зависит от доступных вычислений.

Амодеи называет рекурсивное самоулучшение одной из причин возможного резкого ускорения ИИ.

По слухам, Google уже использует эту схему для нового поколения моделей. 

У Google огромный парк TPU и GPU. Часть мощностей арендуют Anthropic и OpenAI, у которых гораздо меньше собственного железа и выше зависимость от поставщиков. Если железо становится единственным ограничителем прогресса, это ставит их в худшее положение.

Замедление даст OpenAI и Anthropic время нарастить собственные мощности и снизить зависимость от Google, который может ограничить им доступ к железу или использовать эти мощности для ускорения собственных моделей.

2️⃣Вторая версия: атака на Китай

Американские лаборатории вложили огромные деньги в свои модели. Китайские модели быстро догоняют американские по качеству и выходят с открытыми весами. Одновременно Китай развивает собственную инфраструктуру. Из-за этого американцам всё труднее продавать свои модели дорого и окупать большие инвестиции.

Отсюда версия с многоходовкой. Сначала американские лаборатории призывают всех замедлиться. Китай не присоединяется. Затем они просят государство запретить китайские модели: Китай отказался от ограничений, значит действует безответственно, а его модели небезопасны. И одновременно дать американским лабораториям деньги, чтобы они могли догонять Китай, оставаясь ответственными.

3️⃣Третья версия: IPO и хайп вокруг AGI

Anthropic готовится к IPO. Амодеи уже несколько лет говорит, что мощный ИИ появится буквально в ближайшие годы. В этой версии нынешний призыв к замедлению — просто ещё один способ усилить ощущение, что AGI уже за углом: если сами лидеры индустрии просят притормозить, значит технология действительно очень близка.

Перед IPO такой ажиотаж может разогреть интерес инвесторов и оценку Anthropic. При этом всерьёз замедляться никто не собирается. Альтман, Маск и Хассабис просто подхватили тему: им тоже выгоден ажиотаж вокруг скорого AGI.

А какая версия кажется вам более реалистичной ❓