В преддверии визита главы КНР Си Цзиньпина в США и его встречи с Дональдом Трампом 24 сентября американские медиа нагнетают. Ни много ни мало, по их версии событий, в мире разворачивается «AI Cold War».

Итак, играет тревожная музыка. Загромыхал голос диктора: мир разделился на два мировых полюса — США и Китай — и страны, примкнувшие к ним. Китайский AI уже поглотил Россию, Иран, Бразилию и страны Африки. Американский властвует в Европе, Японии и Индии (правда, пока не добрался до Канады и Мексики). Есть группа стран, пытающихся заработать на противостоянии, постоянно маневрирующих между двумя полюсами. И это Казахстан!

Шутки шутками, но сейчас действительно закладываются инфраструктурные основы для протоколов ИИ в мире: стандарты, которые будут действовать в ближайшие десятилетия, — как, например, 220 вольт в розетке или вид провода USB. Основной вопрос, который, по мнению чиновников, важен, — прозрачность и безопасность.

Китай призвал США доказать, что американские ИИ-компании соблюдают те же требования безопасности, прозрачности и аудита, прежде чем Пекин согласится на «существенные» переговоры по ИИ. Например, китайская сторона обвинила Anthropic в нарушении защиты пользовательских данных и использовании технологий за пределами заявленных целей, пишет Bloomberg.

Ну то есть китайцы задают вопросы: а не работают ли американские ИИ-модели на оборону, не шпионят ли они за пользователями, не сливают ли данные налево. И конечно, всё это они делают как детища монстров Apple, Google и Meta, напрямую сотрудничающих с американскими спецслужбами. Как и китайские AI-модели работающие на спецслужбы КНР. Главный «спонсор» всех ИИ — стратегические нужды обороны, а уж потом — потребности реальной экономики, и лишь на последнем месте — потребительский сервис.

Поэтому вопросы, поднимаемые китайцами, важны, но они прекрасно знают на них ответы, ибо и сами не без греха. И договариваться о взаимных протоколах (общемировых 220 вольтах в розетке) не намерены, поэтому обостряют. И с этой точки зрения деление мира на два цифровых концлагеря ИИ-лагеря — закономерно: «мы идём своей цифровой дорогой, вы — своей».

Однако кажется, что, стремясь к локальной безопасности (а не шпионит ли их ИИ за мной, не атакует ли он мой ИИ?), оба лагеря упускают вопрос глобальной безопасности или гуманности. Вопросы по сути простые, но предельные, заданные научными фантастами за много десятилетий до наступления эпохи цифровизации:

🔴не нажмёт ли ту «красную кнопку в чемоданчике» какая-то ИИ-модель вместо президента, если понадобится? (а она не должна этого делать ни при каких обстоятельствах);

🔵есть ли у какого-либо президента «синяя кнопка», позволяющая потушить работу всех дата-центров, если что-то выйдет из-под контроля человека? (конечно — нет).

Два этих вопроса — уровня ООН. Но единственную организацию, которая могла бы реально остановить потенциальную катастрофу (если что-то пойдёт не так) для человечества, они не волнуют.