США перед выбором, которого пока нет: что предлагает RAND в докладе о стратегии на пути к сверхинтеллекту#повесткадня
Американский аналитический центр
RAND опубликовал доклад (15 сентября), который
ставит под сомнение саму логику публичной дискуссии о гонке ИИ.
Пока Вашингтон и Кремниевая долина спорят, что делать — ускоряться, сдерживать, договариваться или доминировать, — авторы доклада утверждают: доказательного ответа на этот вопрос сегодня не существует. Всего они
выделяют семь стратегий:
·
Доминирование — США первыми создают сверхинтеллект и подавляют разработки соперников.
·
Совместная разработка — США управляют сверхинтеллектом вместе с соперниками, и никто не получает решающего перевеса.
·
Готовность — США развивают ИИ, договариваясь о сосуществовании, но при этом стараются избежать катастроф.
·
Мораторий — США и соперники договариваются остановить разработки выше согласованных порогов, чтобы выиграть время для исследований.
·
Сдерживание — США не дают другим разрабатывать опасный ИИ, угрожая силой и применяя её при необходимости.
·
Непрерывность общества — США создают самодостаточные человеческие поселения, способные выжить, если появится опасный сверхинтеллект.
·
Ускорение — США максимально развивают и распространяют ИИ, полагаясь на рынок и конкуренцию, чтобы получить наибольшие выгоды и справиться с последствиями через новые решения.
Ни одна из них не может быть обоснованно выбрана на имеющихся данных. Как указывают исследователи «преждевременное обязательство, как и слишком долгое откладывание, закрывает возможности, которые США ещё могут понадобиться».
Доклад
выделяет пять неопределённостей, от которых зависит любой выбор:· насколько близка опасность от передового ИИ;
· возможно ли сосуществование человека и ИИ;
· возможно ли международное ограничение разработок;
· достижимо ли решающее стратегическое преимущество;
· можно ли подавить чужие программы.
Пока эти вопросы не разрешились,
любая ставка — это ставка вслепую. Причём, как подчёркивают авторы, за четыре из пяти неопределённостей данные могут подтвердить одну сторону, но никогда не опровергнуть противоположную. Иными словами, ждать окончательного ответа — значит ждать доказательств, которых не будет.
Ответ RAND — стратегия
Freedom of Action, сохранение свободы действий. Это не уклонение и не пассивное ожидание, а активная подготовка.
США предлагается строить общий фундамент, который понадобится при любом сценарии: человеко-ИИ экосистему с сохранением человеческой субъектности, архитектуру безопасности ИИ, адаптированные институты национальной безопасности — от ядерного комплекса и разведки до кибербезопасности и дипломатии, — а также готовность граждан, компаний и государства к быстрым изменениям.
Параллельно —
мониторинг пяти неопределённостей, защита от катастрофы и необратимой зависимости, захват преимуществ, когда открываются окна, и осознанные сигналы соперникам, которые читают действия США даже при отсутствии официальной стратегии.
Главный политический вывод доклада звучит неожиданно на фоне привычной риторики о гонке: руководство США подталкивают не к безудержному ускорению и не к ограничению конкурентов как самоцели, а к
наращиванию потенциала и сохранению всех опций открытыми.
Конкретную стратегию предлагается выбрать позже — по доказательствам или когда наступит время выбора. Ключевое условие —
партнёрство государства, частных ИИ-компаний, бизнеса и гражданского общества, без которого архитектура просто не будет построена.
В сухом остатке: RAND предлагает Вашингтону не решать сейчас, а готовиться решить позже — и делать это так, чтобы момент выбора не застал врасплох.