Заседание Совбеза ООН по ИИ получилось исключительно интересным. Глава OpenAI Сэм Альтман фактически признал: регулирование ИИ нельзя оставлять самим компаниям-разработчикам! Это, пожалуй, была самая сильная фраза вообще всего заседания.

Альтман заявил, что ключевые решения не должны приниматься только исследовательскими лабораториями в Сан-Франциско. Подобные решения должны формироваться правительствами и демократическими институтами.

Альтман назвал две фундаментальные опасности:
- потеря контроля над ИИ;
- концентрация власти над ИИ в слишком небольшом количестве компаний или стран.

Сэм также заявил, что OpenAI уже замедляла разработку отдельных систем и готова делать это снова, если безопасность этого потребует. Интересный поворот: отец-основатель систем ИИ приходит в Совбез ООН и объявляет: «Если разработчики ИИ в настоящий момент задают правила работы своих моделей, то это неправильно, и делать сами мы это не должны».

Глава Anthropic Дарио Амодеи пошёл ещё дальше и заявил, что при плохом управлении ИИ может представлять риск для человечества в целом. Обращаем внимание, особо важно не то, что никто из отцов-основателей ранее такого не заявлял, а то, что о таких вещах никогда не заявляли на заседаниях Совбеза ООН!

При этом, позиция США остаётся принципиально осторожной в отношении организации международного регулирования ИИ. Ранее администрация Трампа отвергала идею централизованного международного управления ИИ.

Штаты принципиально опасаются, что международные ограничения смогут замедлить американские разработки и дать Китаю возможность сократить технологический разрыв. США готовы обсуждать систему управления ИИ, но не готовы автоматически отдавать управление «AI governance» в руки ООН.

А вот Китай занял принципиальную позицию. Китай резонно выступает за международные стандарты и центральную роль ООН в глобальном управлении ИИ. Пекин настаивает на превращении AI governance из американской технологической системы в международную политическую систему!

Вчера мы рассуждали, что Трамп и Си потенциально могут договориться о минимальном механизме международной системы управления ИИ. После заседания СБ ООН это опасение выглядит ещё обоснованнее.

Теперь перед Си и Трампом фактически стоят два пути дальнейших действий относительно управления ИИ. Первый: США с Китаем договариваются напрямую, остальные страны, хотят они или нет, но присоединяются потом.

Второй: ООН становится центральной площадкой управления и контроля за ИИ. К примеру, в ядро системы управления входят США, Китай, Россия, ЕС, Индия, к которым постепенно присоединятся остальные государства.

И вот здесь Вашингтону будет уже гораздо сложнее контролировать всю архитектуру управления ИИ. Сегодняшнее заседание СБ ООН оформило запуск мощного геополитического трека со следующими исходными:

- Вашингтон отчаянно хочет сохранить технологическое лидерство;
- Пекин хочет превратить правила работы с ИИ в международный механизм с ключевой ролью ООН;
- Москва не хочет, чтобы правила определялись исключительно Вашингтоном и Пекином;
- председательствующая в СБ ООН Франция пытается закрепить тему ИИ как вопрос международной безопасности.

Таким образом, отрасль ИИ уже рассматривается не как отрасль экономики, а как важнейший элемент международного баланса сил. Элемент, который в самом ближайшем будущем будет всё более и более значимым в самых сложных уравнениях и конфигурациях глобальных отношений.

Подписывайтесь на наш канал. Вас ждет еще много интересного.
 
@Safir_Analytics