🇺🇸🌐 Проникновение философии авторов нашумевшей монографии «Технологическая республика: жесткая сила, мягкое убеждение и будущее Запада» А. Карпа и Н. Замиски (Palantir) в стратегию Вашингтона, которая содержит элементы национал-либерализма и милитаризма, представляет серьезную угрозу для системы международной стабильности и безопасности. Авторы концепции «технологической республики» продвигают идеи, стимулирующие опасную гонку ИИ-вооружений. А. Карп и Н. Замиска идут по пути эскалации конфликта, а не сотрудничества между технологически развитыми державами, к чему, например, апеллирует Кай-Фу Ли, автор книги «Сверхдержавы искусственного интеллекта».

Следует отметить, что подавляющее большинство экспертов сходится во мнении о наличии широкого спектра рисков, связанных с развитием ИИ, — от беспрецедентных возможностей манипуляции человеческим сознанием до катастрофических сбоев в критической инфраструктуре или случайного провоцирования военных конфликтов. А. Карп и Н. Замиска признают проблему растущих угроз со стороны ИИ, включая непредсказуемость последствий интеграции ИИ в системы вооружения, особенно в гипотетическом сценарии обретения программами самосознания. Однако, находясь перед выбором между сдерживанием разработок передовых технологий искусственного интеллекта и курсом на ускоренные эксперименты, авторы сознательно выбирают второе. Их позиция заключается не в отрицании рисков, а в ставке на создание архитектурных и нормативных рамок, которые позволят интегрировать автономные системы в энергосети, оборону и управление, обеспечив при этом подчинение машин человеку. При этом А. Карп и Н. Замиска признаются, что принципы работы генеративных моделей не до конца понятны даже их создателям. В этом контексте их тезис о необходимости контроля человека над ИИ выглядит утопичным: если механизм работы технологии непрозрачен, невозможно гарантировать ее предсказуемость и безопасность. Такой подход адептов «технологической республики» можно охарактеризовать словами автора книги «Большой обман больших языковых моделей» Г. Маркуса – «гигантский, неконтролируемый эксперимент над всем человечеством».

Анастасия Толстухина в рецензии для журнала @imi_mgimo «Международная аналитика» анализирует, как Соединенные Штаты приобретают черты «технологической республики», концептуализированной в манифесте А. Карпа и Н. Замиски, и чем это может грозить миру.
https://russiancouncil.ru/analytics-and-comments/analytics/vozrozhdenie-tekhnologicheskoy-respubliki/