«Можно ли остановить гонку ИИ?» - ответ The Economist мрачный

The Economist вынес на обложку свежего номера всего один вопрос. Можно ли остановить гонку ИИ-вооружений? Ядерный гриб, собранный из строчек кода, отвечает за журнал сам. Вывод редакции мрачный: гонку уже не затормозить, а правительства, по их же словам, всё ещё спят.

В чём суть? Америка застряла между двумя целями: сделать технологию безопасной и не отстать от Китая. А Пекин тормозить не намерен. Часть жёстких ограничений там сняли ещё в прошлом году, а партийный советник Чжу Сунчунь приравнял разработку ИИ к проекту «Две бомбы, один спутник», из которого выросло ядерное оружие страны.

Но по сути, ядерная метафора обманчива. Атом сдержали договором о нераспространении, где боеголовки можно пересчитать и проверить. Модель ИИ не пересчитаешь и не запрёшь в бункер. Так что старые договоры о контроле вооружений к ней не подходят.

Отсюда и гриб на обложке. Логика гонки простая: кто сбавит ради безопасности, проиграет тому, кто не сбавил. А разрыв между лидерами из США и Китая уже почти стёрся, модели идут почти вровень. Пока лаборатории несутся наперегонки, общей кнопки «стоп» ни у кого нет. И вопрос с обложки остаётся без ответа.