На видео десятиминутный отрывок из недавнего большого интервью Илона Маска The Economist. Отрывок, в котором он рассказывает, что через 5 лет AI будет умнее всех людей и научится решать любые проблемы — и начнётся эпоха изобилия.

Но мы знаем, что про эпоху изобилия фантазировать умеет не только Илон Маск. Поэтому собрал нам все заметные высказывания известных больших людей про будущее AI. За июль. Это чтобы мы не отставали от стратегической повестки.

1. The AI Future Is for Everyone

Неожиданно, но вот и Марк Цукерберг разродился манифестом. Будущее сверхинтеллекта должно строиться на принципах децентрализации, расширения возможностей человека и баланса сил. Когда ключевые разработки вокруг AI держатся в руках нескольких компаний — это создаёт опасность для общества.

2. The Future Worth Building Is Human

Мира Мурати почти с таким же посланием. Но с большим акцентом в сторону знаний и суждений: to build AI that extends human will and judgment.

Наиболее ценное знание — локальное, неявное, постоянно меняющееся и распределённое между людьми. Поэтому правильная архитектура — не один универсальный автономный интеллект, которому передают всю работу, а распределённая система, которую организации и люди могут гибко адаптировать и обучать в процессе совместной работы.

3. A Framework for Frontier AI and the Dawning of a New Age

Демис Хассабис предлагает, на основе государственно-частного партнерства, создать в США организацию, контролирующую стандарты работы с AI и протоколы оценки моделей. Потому что ситуация выходит из-под контроля.

4. The Reverse Information Paradox

А вот Сатью Наделлу волнует другая проблема — reverse information paradox. Это когда компании отдают свои ценные данные и знания при использовании AI-инструментов. И появляется большой стратегический риск. Чтобы этого не происходило надо всё держать внутри: prompts, corrections, evals, memory, workflows. Читается так, как будто Сатья забыл дописать абзац, что всё это можно делать в стеке Microsoft.

5. Open Weights and American AI Leadership

Ну и самый главный текст — открытое письмо, которое подписали почти все. Письмо про необходимость открытой экосистемы в развитии AI, децентрализации и культуры open source.

В июле вообще было модно писать открытые письма. Про одно я уже упоминал. А тут вот ещё — от сотрудников передовых AI-компаний. С обращением к правительству США «support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development».

Итак, ну а если обобщить и попробовать в трех тезисах сформулировать, что нам все эти манифесты пытаются донести?

1. Все так или иначе говоря про коммодизацию интеллекта. И даже уже почти сверхинтеллекта. Видимо, следующий этап — это ещё большее расширение интерфейсов (дисплейных, физических и распределенных). А за интерфейсами и расширение спектра задач, которые AI может решать.

2. Если интеллектом не победить, то преимущество человека за некодифицируемыми и неалгоритмизируемыми знаниями и взаимодействием. А на уровне организаций — надо вкладываться и строить интеллектуальный суверенитет.

3. Громко звучит идея, что развитие AI начинает опережать нашу способность его понимать и контролировать. Это может привести к проблемам глобально-экзистенциального характера. Но как сказал Илон Маск — поезд уже не остановить и остаётся только верить в лучшее. А ещё очень нужен арбитр и контролёр. Что-то типа ООН.

В комментариях 5 пдф с переводом и аудио-обзор на 25 минут.