У меня был четырехчасовой перелет и я прочитал AI-2040 почти полностью

Есть много мыслей, которыми я хочу поделиться. Но сначала стоит рассказать, о чем это вообще.

ai-2040.com – развитие нашумевшего ai-2027.com. ai2027 я комментировал тут, он про довольно страшный (и реалистичный) сценарий выхода суперинтеллекта из под контроля. Если вы не читали, то решительно советую, было очень интересно погрузиться в почти sci-fi прогноз.

Если в ai2027 разбирают в основном стремительные катастрофические варианты развития событий, то в ai2040 почти полностью посвящен позитивному сценарию (описание почти на 70 страниц). Авторы признают его маловероятным, но одним из немногих, при котором миру будет хорошо от развития искусственного интеллекта.

Сам сценарий - Plan A
В этом сценарии Америка и Китай в 2029 году осознают экзистенциальную опасность гонки вооружений. Америка боится самого ИИ, Китай боится, что Америка сделает более сильный ИИ и страны решают придти к соглашению – заморозить исследования, пока не решится, что с этим делать. Исследования замораживают на год, в это время страны решают
- сделать весь AI research публичным и открытым
- веса моделей, наоборот, сделать закрытыми
- все будущие датацентры строить на прокси-территориях, на которых США и Китай смогут взаимно уничтожить весь компьют
- вычисления на всех GPU или специальных чипов контроллировать специальной комиссией

Звучит невероятно? Да.
Сами авторы говорят, что в этот вариант они верят меньше, чем в вариант взаимного уничтожения. Но тем не менее стараются обосновать, почему рациональные игроки в теории игр могут быть склонны именно к таким мерам.

И я считаю, что самое интересное в ai2040 – именно анализ отдельных факторов, подкрепленный довольно трудоемкими исследованиям. О некоторых интересных деталях я и расскажу в следующих постах. Можете поставить побольше лайков, если хотите, чтобы я описал побольше факторов)