Авторы прогноза AI 2027 выпустили новый сценарий развития нейросетей — AI 2040. В прошлый раз они рассказали, как гонка ИИ может привести к появлению сверхинтеллекта. Теперь исследователи во главе с бывшим сотрудником OpenAI Даниэлем Кокотайло описали несколько вариантов того, как государства могут действовать дальше.

Главный из них — Plan A. Это сценарий с рекомендациями, который должен помочь замедлить гонку и создать управляемый ИИ.

Как замедлить развитие ИИ

Правительства понимают, что через несколько лет из-за автоматизации могут потерять контроль над экономикой и дальнейшим развитием нейросетей. Поэтому в 2029 году США и Китай заключают соглашение и временно останавливают обучение новых передовых моделей. Уже существующие нейросети продолжают работать.

К концу 2029 года к соглашению присоединяется большая часть мира и формируется международный Консорциум. Появляется и аналог ядерного сдерживания: новые китайские дата-центры строят в Канаде, а американские — в Монголии. То есть стороны размещают вычислительную инфраструктуру на территориях, уязвимых для оппонента.

Разработки возобновляются под надзором Консорциума, но по четырём правилам. Развитие моделей замедляют, исследования передовых систем делают прозрачными, технологии распределяют между странами и компаниями, а инфраструктуру проектируют так, чтобы любой опасный процесс можно было остановить.

Что будет с обществом

Даже при замедлении нейросети развиваются очень быстро. К 2032 году одновременно работают 60 миллионов ИИ-агентов, способных думать примерно в 20 раз быстрее человека. Они выполняют больше интеллектуальной работы, чем все жители США, а реальный ВВП за год растёт примерно на 50%. Параллельно роботы начинают автоматизировать физический труд.

Благодаря новой экономике американцы получают выплаты размером около $1 млн в год. К 2036 году работу сохраняют только 26% граждан США, но бедность и голод почти исчезают. Тем не менее Консорциум останавливает развитие моделей на уровне лучших человеческих экспертов — более умный ИИ уже нельзя будет контролировать старыми способами.

Мир делится на три типа территорий: гигантские промышленные зоны с заводами и роботами, аркологии — высотные жилые комплексы, окружённые природой, — и исторические и природные заповедники. Последние занимают большую часть планеты: Париж, Нью-Йорк и другие старые города внешне почти не меняются.

Как начнётся новая эпоха

К 2038 году безопасность ИИ становится отдельной наукой. Исследователи учатся создавать более управляемые модели и понимать, как в них формируются цели и ценности. Появляется множество разных ИИ: одни служат государствам и политикам, другие — компаниям, акционерам или благотворительным организациям. Постепенно люди начинают больше им доверять.

В 2040 году ограничения на развитие ослабляют и появляются системы, значительно превосходящие человека. Им постепенно передают управление производством, энергетикой, государственными институтами и частью вооружённых сил. В этот момент нейросети начинают контролировать достаточно инфраструктуры, чтобы люди больше не могли их отключить. Авторы считают этот шаг допустимым только после того, как согласование целей ИИ станет зрелой наукой.

Подписывайтесь 👉 @techno_yandex