США перед выбором, которого пока нет: что предлагает RAND в докладе о стратегии на пути к сверхинтеллекту

#повесткадня

Американский аналитический центр RAND опубликовал доклад (15 сентября), который ставит под сомнение саму логику публичной дискуссии о гонке ИИ.

Пока Вашингтон и Кремниевая долина спорят, что делать — ускоряться, сдерживать, договариваться или доминировать, — авторы доклада утверждают: доказательного ответа на этот вопрос сегодня не существует. Всего они выделяют семь стратегий:

·        Доминирование — США первыми создают сверхинтеллект и подавляют разработки соперников.
·        Совместная разработка — США управляют сверхинтеллектом вместе с соперниками, и никто не получает решающего перевеса.
·        Готовность — США развивают ИИ, договариваясь о сосуществовании, но при этом стараются избежать катастроф.
·        Мораторий — США и соперники договариваются остановить разработки выше согласованных порогов, чтобы выиграть время для исследований.
·        Сдерживание — США не дают другим разрабатывать опасный ИИ, угрожая силой и применяя её при необходимости.
·        Непрерывность общества — США создают самодостаточные человеческие поселения, способные выжить, если появится опасный сверхинтеллект.
·        Ускорение — США максимально развивают и распространяют ИИ, полагаясь на рынок и конкуренцию, чтобы получить наибольшие выгоды и справиться с последствиями через новые решения.

Ни одна из них не может быть обоснованно выбрана на имеющихся данных. Как указывают исследователи «преждевременное обязательство, как и слишком долгое откладывание, закрывает возможности, которые США ещё могут понадобиться».

Доклад выделяет пять неопределённостей, от которых зависит любой выбор:

·        насколько близка опасность от передового ИИ;
·        возможно ли сосуществование человека и ИИ;
·        возможно ли международное ограничение разработок;
·        достижимо ли решающее стратегическое преимущество;
·        можно ли подавить чужие программы.

Пока эти вопросы не разрешились, любая ставка — это ставка вслепую. Причём, как подчёркивают авторы, за четыре из пяти неопределённостей данные могут подтвердить одну сторону, но никогда не опровергнуть противоположную. Иными словами, ждать окончательного ответа — значит ждать доказательств, которых не будет.

Ответ RAND — стратегия Freedom of Action, сохранение свободы действий. Это не уклонение и не пассивное ожидание, а активная подготовка. США предлагается строить общий фундамент, который понадобится при любом сценарии: человеко-ИИ экосистему с сохранением человеческой субъектности, архитектуру безопасности ИИ, адаптированные институты национальной безопасности — от ядерного комплекса и разведки до кибербезопасности и дипломатии, — а также готовность граждан, компаний и государства к быстрым изменениям.

Параллельно — мониторинг пяти неопределённостей, защита от катастрофы и необратимой зависимости, захват преимуществ, когда открываются окна, и осознанные сигналы соперникам, которые читают действия США даже при отсутствии официальной стратегии.

Главный политический вывод доклада звучит неожиданно на фоне привычной риторики о гонке: руководство США подталкивают не к безудержному ускорению и не к ограничению конкурентов как самоцели, а к наращиванию потенциала и сохранению всех опций открытыми.

Конкретную стратегию предлагается выбрать позже — по доказательствам или когда наступит время выбора. Ключевое условие — партнёрство государства, частных ИИ-компаний, бизнеса и гражданского общества, без которого архитектура просто не будет построена.

В сухом остатке: RAND предлагает Вашингтону не решать сейчас, а готовиться решить позже — и делать это так, чтобы момент выбора не застал врасплох.