За четыре моря

В России официозные медиа часто превозносят национальные технологические достижения. Увы, часто врут. А вот в США, наоборот, все чаще слышны разговоры о безнадежном проигрыше Китаю в какой-нибудь очередной технологической гонке. И тоже привирают: алармизм полезен, если хочешь получить больше денег из бюджета.

Это работает еще и потому, что о положении дел в Китае иногда приходится судить по косвенными признакам: в последние годы ученым-китаистам стало тяжело даже попасть в страну. Так что кусочки актуальной информации приходится ценить.

На днях Джеффри Динг перевел на английский небольшое видео со сравнением GPT-4 и Ernie - языковой модели от Baidu. Оценивали по шести критериям: понимание текста, ведение диалога, имитация личности, а также навыки логики, математики и программирования. По пяти из них GPT-4 оказался значительно лучше. Например, когда GPT-4 спросили, “считается ли брак между мамой и папой кровосмешением”, он ответил, что нет, если они не являются кровными родственниками, а вот Ernie просто расписал, почему кровосмешение нарушает законы КНР. Для повышения рождаемости он и вовсе предложил ввести политику “одного ребенка”.

Но переоценивать неудачу Ernie не стоит. Языковые модели - лишь одно из направлений развития ИИ. Да, внезапно показавшее себя удивительно близким к “искусственному интеллекту” из фантастических фильмов, но далеко не единственное. Скажем, в области компьютерного зрения Китай давно обскакал Штаты - интереснее сравнить уровень развития ИИ-технологий в целом.

Для их развития нужны 4 фактора: (1) способность производить “железо” (т.е. чипы), (2) проводить исследования и придумывать алгоритмы, (3) иметь доступ к данным и (4) финансовым ресурсам. В 2018 г. выходило, что возможности Китая - половина от американских: китайцы были впереди по объему доступных данных, отставали в области исследований и финансов и были безнадежно позади по “железу”.

С тех пор прошло уже пять лет, но можно посмотреть на свежие цифры из недавнего AI Index Report.

Китайские частные инвестиции в ИИ ($13.4 млрд в 2022 г.) все еще в три с половиной раза меньше американских ($47.4 млрд). Оценить государственные вливания сложнее, но можно сравнить пакеты поддержки для полупроводниковой индустрии: ходили слухи про китайские $150 млрд, а американцы уже пообещали в два раза больше - $280 млрд.

В науке ситуация другая: если смотреть в лоб, то у китайцев давно уже больше и публикаций (40% vs 10%), и цитирований (29% vs 15%). Но если судить по самым влиятельным работам, то Китай все еще отстает. В общей сложности - паритет.

Но почему Ernie все-таки получился глупым? Мне кажутся интересными две линии аргументации.

Когда мы оцениваем технологические перспективы страны, то слишком много внимания обращаем на инновационный потенциал - способность сформировать прорывную идею. Но не менее важен диффузный потенциал - способность эту идею применить. У послевоенного СССР с инновациями все было хорошо, а с диффузией - плохо, и реальную технологическую гонку Союз проиграл. Динг насчитал, что и в Китае есть “диффузный дефицит” - исследований много, а вот с их адаптацией все еще плохо. На мой вкус - очень спорный тезис, но изучать диффузию действительно важно.

Другая проблема с языковыми моделями - в политической асимметрии. Если GPT скажет что-нибудь расистское, это закончится судебным процессом и финансовыми потерями. Но если Ernie оскорбит Си, то последствия могут быть непредсказуемыми. Проблема в том, что мы до сих пор не понимаем, как аккуратно цензурировать языковые модели. GPT-4 разработали еще в августе, а открытый доступ дали в марте - все это время модель достраивали, в т.ч. и для того, чтобы она не ляпнула какую-нибудь опасную глупость (и она до сих пор делает это постоянно). При этом те, у кого был доступ к ранней версии, пишут, что этические ограничения снизили “интеллект”. Возможно, обилие запретов - Ernie благоразумно отказывается от разговоров на острые темы - слишком сильно обрезает способности китайских моделей.

Вчера многие говорили о том, что Маск подписал письмо с призывом остановить разработку всех ИИ-систем, более продвинутых, чем GPT-4.

Можно сослаться на эксцентричность Маска, но в списке подписантов много важных для ИТ-индустрии людей: Стив Возняк, Юваль Ной Харари, немало сотрудников ИИ-стартапов и еще больше профессоров – в том числе и тех, кто стоял у самых истоков современных нейронных сетей, вроде Йошуа Бенжио.

Возникает два вопроса:

Первый: почему умные люди становятся неолуддитами и пытаются остановить прогресс?

Второй: действительно ли развитие ИИ могут приостановить?

Начнем с первого. В самом письме цитируется несколько причин. Что, если машины заполнят наш мир пропагандой? А если роботы займут все рабочие места? И, наконец, уверены ли мы, что не потеряем контроль за нашей цивилизацией?      

Последний тезис может показаться радикальным, но именно он – причина, по которой многие оставили свою подпись под документом (хотя и не все – есть те, кто больше обеспокоен краткосрочными эффектами).  

Есть много аргументов за то, почему ИИ может уничтожить человечество, но сфокусируемся на одном, самом известном и элегантном. Он состоит из двух частей:

(1)  Допустим, нам удастся создать ИИ, равный по способностям человеческому мозгу. В отличие от человека, он не нуждается в отдыхе, не забывает то, что однажды выучил, и может получить доступ к колоссальным вычислительным ресурсам – а главное, может улучшать сам себя. Он умеет писать код, а значит, может создать ИИ+ - интеллект, хотя бы немного превосходящий человеческий, который, в свою очередь, создаст еще более производительную модель. Получается, что создание «человеческого» ИИ неизбежно приведет к появлению «сверхчеловеческого» (лучший анализ этого аргумента – в статье Чалмерса).

(2)  Если появится сверхчеловеческий интеллект, то нет никаких гарантий, что его цели будут соответствовать человеческим – это та самая AI Alignment Problem. В упрощенном виде - знаменитый «аргумент о скрепках». Допустим, человечество создало сверхчеловеческий разум, в мозг которого мы заложили главную цель – производить скрепки. Со временем этот ИИ поймет, что для максимизации числа скрепок желательно превратить в заводы по их производству всю поверхность Земли, а в идеале в скрепки должна превратиться вся материя во Вселенной – включая, конечно, и довольно бесполезных людей. Какую бы цель мы не заложили в искусственный разум, мы не понимаем, как она будет интерпретирована (за деталями - к Бострому).

Если вы впервые читаете эти аргументы, то они могут показаться вам фантасмагорическим бредом, место которому - в голливудских боевиках. Их разделяют даже не все подписанты. Но раз уж об этом всерьез спорят тысячи блестяще образованных людей, то нам точно стоит хотя бы задуматься.

Теперь ко второму вопросу - получится ли приостановить развитие? Скорее всего – нет. Во-первых, поддерживают письмо далеко не все – среди подписантов не видно сотрудников OpenAI, да и многие исследователи называют его «бредом». К тому же на кону большие деньги: ChatGPT стал самым быстрорастущим приложением за всю историю, набрав 100 млн пользователей за два месяца – почти в пять раз быстрее, чем TikTok. Любая компания, которая добровольно откажется от развития, потеряет миллиарды долларов - именно поэтому Google в спешке презентовал свой аналог ChatGPT, который называли даже "позором".

Во-вторых, вряд ли смогут остановить разработки и государства. Развитие ИИ - давно уже новая гонка вооружений между Китаем и США. Если любая из сторон решит единолично остановить своих исследователей, то обречет себя на поражение в необъявленной войне (лучше уж всесильный ИИ разработаем мы, чем эти тоталитарные безумцы – вполне себе существующий аргумент). Ну а поверить в координацию между Китаем и США почти невозможно – поэтому американцы вкладывают рекордные 50 млрд в развитие полупроводников, без которых ИИ не построишь, а китайцы запускают одну ИИ-стратегию за другой.

Поэтому большого эффекта от письма ждать не стоит.

В октябре 1945 года в президентский кабинет к Трумэну зашел Роберт Оппенгеймер, руководитель Манхэттенского проекта. «Мои руки в крови», - заявил он: со дня бомбардировки Хиросимы прошло лишь чуть больше двух месяцев. Жаль, что не осталось стенограммы, но говорят, что Трумэн был в ярости, позже обозвав ученого плаксой: «Это мои руки в крови – приказ-то отдавал я». Когда Оппенгеймер уже ушел, президент передал своему госсекретарю, чтобы этого нытика больше не пускали в кабинет.

Ученые, как всегда, придумали удивительную штуку, но их быстро оттеснили от рычагов управления ушлые политики и генералы. Ребятам с заоблачным IQ оставалось только удивляться их прыти (и правда, кто бы мог подумать, что ядерную бомбу будут использовать для того, чтобы кого-то бомбить?).

Спохватившись, интеллектуалы попытались загнать джина обратно в бутылку: Оппенгеймер участвовал в разработке доклада Ачесона-Лилиенталя, где государствам предлагалось передать все урановые шахты, средства для обогащения и ядерные реакторы под контроль ООН. Этот план обсуждался вполне всерьез, но в итоге ограничились МАГАТЭ и ядерным клубом – но даже этого пока достаточно, чтобы с 1945 года на руках Оппенгеймера не появилось ни одной новой капли крови.

Поколение родившихся на рубеже веков смогло политикой обуздать эффекты ядерной бомбы. Ну а нам придется решить ту же проблему для искусственного интеллекта: на этот раз очередная удивительная штука уже сдает экзамены лучше, чем нужно для поступления на PhD в Гарвард, а мы все еще не понимаем, что делать, если у ИИ появятся цели, отличные от тех, что устраивали бы человечество. И если вам кажется, что сравнение какого-то чатбота с ядерной бомбой - излишняя лихость с моей стороны, то рекомендации из абзацев ниже будут вам очень кстати.

В прошлую субботу я провел последнюю лекцию своего курса по этике и регулированию ИИ в Вышке. Хотел поделиться программой – получился неплохой набор текстов, чтобы разобраться в теме с нуля. Заодно посоветую, что еще почитать.

Если вы не знаете английский, то выбор небольшой. Переведены две уже почти классических книги – «Искуственный интеллекта» Бострома и «Совместимость» Рассела. Из остального я бы обратил внимание на «Эпоху надзорного капитализма» Зубофф, «Сверхдержавы искусственного интеллекта» Кай-Фу Ли и «ИИ 2041» Чэнь Цюфаня.

Если с языком ограничений нет, то читайте не книги, а статьи и отчеты – фронтир мировой науки давно уже там.

Во-первых, изучите программы курсов: AI Governance Fundamentals, курсы по этике ИИ от Гарварда и Эдинбурга, неплохой курс по экономике ИИ на Coursera и ридинг-лист Алана Дефо.

Во-вторых, следите за публикациями исследовательских центров. Тут безоговорочный лидер - Centre for the Governance of AI. Среди других стоит упомянуть Future of Humanity Institute в Оксфорде и Centre for the Study of Existential Risk в Кэмбридже – они были среди первых, кто вообще начал писать по теме AI Safety. HAI в Стэнфорде публикует важный AI Index Report, CSET в Джорджтауне и стэнфордская DigiChina отлично пишут про технологическую политику в целом, фокусируясь на Китае. В континентальной Европе можно посмотреть на Centre for Digital Governance в берлинской Hertie School (но они куда менее активны, чем их англо-саксонские коллеги).

Из глобальных think tank’ов стоит читать программу по AI Governance у Brookings и статьи Мэта Шиана в Карнеги, а среди специализированных - отчеты The Future Society и Partnership on AI. Чтобы познакомиться с анти-регуляторной позицией, поддерживаемой индустрией, можно почитать Center for Data Innovation.

В-третьих, подпишитесь на пару рассылок, чтобы следить за последними новостями. Лично я предпочитаю ChinaAI про ИИ в Китае и Import AI для общих обзоров. В российском телеграме есть «Малоизвестное интересное» и База знаний AI. Многие любят подкасты, но я - не фанат, поэтому слушаю только 80,000 hours.

P.S. Если вы занимаетесь смежными темами и вам было бы интересно пообщаться – пишите мне в личку (в описании канала).

Бывает так, что на войне вам не хватает людей. Умные, сильные и здоровые почему-то не горят желанием менять комфортную жизнь на грязные окопы, так что приходится набирать не самых подходящих - преступников, иностранцев, а иногда - попросту идиотов. Есть только одна проблема: такие кадры бывают не только бесполезны, но и вредны. 

О чем это я? Ах да, Вьетнам, 1966 год…

Для борьбы с Вьетконгом США не хватало солдат. Можно было бы отменить “бронь” для студентов, но никто не хотел вызвать гнев среднего класса. Пошли по простому пути: призвали самых молчаливых и бесправных, снизив минимальный порог в интеллектуальном тесте для призывников. Раньше в армию не брали тех, кто попадал в нижнюю треть распределения, теперь отказывали только нижним 10%. 

Каждый год американские военкомы должны были набрать не меньше сотни тысяч тех, кому раньше служба в армии не светила. Отсюда и название всей этой истории - “Project 100,000”. Впрочем, в армии новое пополнение называли по-другому - “болваны Макнамары”, в честь тогдашнего министра обороны.
 
Если смотреть только на цифры, то 350 тысяч “болванов”, которые оказались в армии за несколько лет, справлялись плохо, но не чудовищно: в два раза чаще проваливали базовый тренинг (но 90% все равно проходили), в три раза чаще погибали в бою (но большая часть все равно вернулись домой). 

А вот очевидцы вспоминают реформу как настоящий кошмар (см. книгу Хамильтона или рецензию на нее). Новые солдаты не понимали, что гранату нужно бросать по параболе, а не кидать вперед, как бейсбольный мяч, или впадали в ступор, когда на полосе препятствий видели стрелки с направлением бега. 

Казалось, что давать оружие таким людям опасно - но военным нужно было отчитываться за обучение новобранцев, так что результаты тренингов часто подделывали, а ребята отправлялись во Вьетнам. Один, стоя на посту, убил своего командира: забыл, что пароль надо спрашивать до того, как стрелять, а не после.

Одной из причин массового расстрела вьетнамских мирных жителей тоже мог стать невысокий интеллект. Лейтенант Уильям Келли, отдававший приказы о расстрелах, не был частью “Проекта 100,000”, но смог попасть в армию благодаря сниженным стандартам: говорят, он так и не научился пользоваться картой и компасом, а его адвокат активно разыгрывал карту “недостаточных когнитивных способностей” во время суда над Келли. 

Проект признали неудачным и прикрыли довольно быстро. Но это - не главный поворот истории. Читая текст выше, легко подумать, что “во всем виноваты идиоты”, но парадоксальным образом главные виновники - как раз люди с необычно высоким интеллектом, пославшие на убой тех, кому в армии было не место.

“Проект 100,000” придумал Роберт Макнамара - выпускник Гарварда, провернувший управленческую революцию в “Форде”, и пришедший в политику вместе с целой плеядой блестяще образованных технократов, которых так и прозвали - The Best and the Brightest. Точно также называется и прекрасная книга о том, почему именно администрация Кеннеди и Джонсона, столь талантливая и образованная, провалила Вьетнамскую войну.

Макнамара истово верил в силу технологий - и считал, что не слишком сообразительным солдатам будет достаточно показывать специальные видеофильмы с инструкциями, чтобы они догнали своих товарищей (оказывается, онлайн-образование вызывало все те же дискуссии еще полвека назад!). Вместе с Джонсоном он даже пытался представить “Проект 100,000” как помощь угнетенным классам - якобы армия даст им образование и поможет найти место в жизни.

Недавно Толкователь писал о том, что ветераны Вьетанмской войны зарабатывали на 15% меньше, чем те, кто избежал призыва (хотя новые данные противоречивы). Ребята с низким IQ не оказались исключением - те из них, что остались дома, больше зарабатывали, реже разводились и чаще получали образование. Увы, ума Макнамары и компании оказалось недостаточно, чтобы это оценить. 

Но о проблемах слишком высокого интеллекта, тех самых The Best and The Brightest - в следующий раз, через неделю или две.

Новогодняя ночь прошла на вершине Килиманджаро, так что в очередном списке вычеркнуты уже две позиции из семи (но на оставшиеся пять вершин вполне может уйти вся жизнь).

За прошедший год подписчиков у канала стало в 4 раза больше, и это уже совсем не личный блог для рассказов о приключениях в Китае. Поэтому хочу понять, о чем вам вообще интересно читать - ответьте, пожалуйста, на пару вопросов ниже.

И если у вас есть советы, рекомендации или критика про контент на канале - сейчас идеальный момент, чтобы поделиться в комментариях.

Приехал на Новый год в Танзанию и вспомнил разговор с одной знакомой, которая рассказывала, как тяжело европейцам вести бизнес в Африке (она сама занимается этим уже лет десять): “Когда нанимают себе людей, ожидают, что те будут отдавать себя работе на 100%, прямо как какой-нибудь немец или американец. Но монолитный подход к жизни - совершенно не по-африкански. Здесь люди никогда не будут работать на единственной работе - даже если наймете человека в корпорацию, он наверняка параллельно будет подрабатывать или вести мелкий семейный бизнес. Также и со всей жизнью: в Африке у людей нечасто бывает одна любимая женщина, одна религия или один язык - тут всегда сложный микс идентичностей и увлечений”. 

Не отвечаю за достоверность тезисов, но звучит интересно. И в отношении языков точно справедливо - мы в западном мире вообще привыкли к тому, что монолингвизм - безусловная, едва ли не биологическая норма, но до торжествующего шествия наций и национализма владение несколькими языками, пускай и на разном уровне, часто было неизбежным для любого, кто выбирался за границы своей родной деревеньки.  

Перед отъездом я как раз прочитал прекрасную книгу об истории французского языка в России. И хотя свободно на французском общался только высший слой дворян,причем в относительно короткий период в XVIII-XIX вв., степень билингвизма все равно поражает: скажем, Бестужев-Рюмин, один из лидеров декабристов, давая показания по поводу восстания, просил позволить отвечать ему на французском, потому что “к стыду своему… более привык к этому языку, чем к русскому” (просьба, кстати, тоже была на французском - в ней отказали, а просителя позже казнили). 

Когда-то Карл V говорил, что с Богом он общается по-испански, с женщинами — по-итальянски, с мужчинами — по-французски, а с лошадьми — по-немецки. Сегодня может показаться, что речь шла об особом звучании языка - итальянский кажется романтичным, даже если вы не понимаете ни слова, а немецкий - такой грубый, что подходит скорее для понукания коня. Но еще совсем недавно язык могли выбирать исходя из того, насколько богат в нем набор клишированных форм и выражений, подходящих для определенного контекста. Флиртовать с девушкой из высшего общества на русском языке на рубеже XVII-XIX веков казалось почти немыслимым - во французском было куда больше подходящих выражений, сформированных богатой литературной традицией. 

Уже после 1812 года русский стал постепенно вытеснять французский даже в высшем свете, ну а  после 1917 года СССР медленно двигался с моноязычию даже в национальных республиках: в 1970 г. на русском свободно говорили 49% населения Союза, а в 1979 г. - уже 62%. 

А вот сейчас ситуация интересная. Русский давно стал универсальным языком, на котором можно и флиртовать с девушкой, и погонять работника на стройке, и рассуждать (с трудом) о бытии и времени. Но за уходом из России действительно важных вещей - Макдональдса, Кока-колы, H&M - мы не заметили, как российские контракты разорвали, например, все крупные университетские издательства - и мы, похоже, останемся без интересной социально-гуманитарной литературы на русском.

Казалось бы, не велика беда - все люди, всерьез занимающихся наукой, спокойно будут читать английском. Но эти книги играли важную роль для интеллектуального “среднего класса” - не производителей нового знания, а его потребителей. 

Если переводная интеллектуальная литература окончательно уйдет из России, мы получим русское дворянство в миниатюре. С одной стороны - тонкая прослойка людей, читающих на английском, и обсуждающих прочитанное на том же языке. С другой стороны - тот самый средний класс: “разночинцы”, говорящие только на русском, но потерявшие доступ к словарю, который позволял им на равных обсуждать сложные социальные проблемы. 

Тоже не катастрофа - так существует большинство языков на земле, переводить на которые книги оказывается слишком дорого. Но совсем не хочется возвращаться к Карлу V, дав русскому место где-то между женщинами и лошадьми.

Несколько дней назад «Проект» написал хороший материал: оказывается, 90% политических предсказаний одного из авторов «Медузы» со ссылкой на “инсайдеров в Кремле” не сбылись. Здорово, что кто-то занялся подсчетами, но результат ожидаемый – не потому, что «Медуза» плоха, но потому, что качество экспертных, а уж тем более журналистских, прогнозов обычно пугающе низкое. 

В уже далеком 2005 году Филипп Тетлок написал хорошую книгу: теперь мы знаем, что эксперты предсказывают будущее так же бездарно, как обычные люди. В медиа еще и искаженная система стимулов: хорошая «говорящая голова» для журналиста – совсем не обязательно та, что точно описывает реальность, но скорее та, что позволяет привлечь максимум аудитории. Логика не зависит от идеологии: если вы с треском провалились, предсказывая быструю победу России, или разрушение ее экономики под ударом санкций, то все равно останетесь “уважаемым экспертом”. 

При этом есть довольно точный инструмент для оценки будущего, который пока, увы, не слишком распространен - рынки предсказаний. Здесь - совсем кратко, больше деталей - в свежем обзоре от Astral Codex Ten или статье от Эконс на русском.

Когда вы заходите на сайт биржи – например, PredictIt или Polymarket, то видите там набор вопросов о будущем. Например, такой: «Станет ли Трамп кандидатом в президенты в 2024 году?». Можно купить «акцию» события: если оно реализуется (Трамп выиграет праймериз), то получите доллар. Сейчас «акция» Трампа стоит 38 центов – и это значит, что биржа оценивает вероятность его победы в 38%. Но как это работает?

Допустим, вы считаете, что вероятность победы Трампа – 70%. Получается, что ценность акции для вас – $0.7 (70% вероятности получить 1 доллар после завершения праймериз), так что купить ее за $0.38 очень выгодно – вы заработаете 32 цента. Также и с продажей: если 70% - это по-прежнему ваша оценка, а цена акции вдруг взлетела до $0.9, вам выгодно ее продать: вы заработаете не $0.7, а $0.9 – причем прямо сейчас. 

Получается, на рынке формируется справедливая цена, которая отражает веру участников вероятность того или иного события. Но почему эта вера соответствует реальной вероятности? Тут логика такая же, как в случае с обычной биржей: если в мире есть человек, который оценивает вероятности лучше, чем рынок, то он может постоянно зарабатывать на этом, покупая недооцененные акции и продавая – переоцененные. Либо он быстро станет миллиардером, либо рынок отреагирует изменением цены. В итоге получается, что рынки оценивают вероятности довольно точно.

Одна из проблем с текущими биржами – на них слишком мало денег для того, чтобы формировать справедливые цены. Нормальных же российских рынков предсказаний нет вообще.

Возможное решение - делать закрытые биржи, которые работают без финансовых стимулов. Например, разведывательное сообщество США в 2010 году запустило свой собственный рынок – там могут участвовать только работники ЦРУ, ФБР и десятка других ведомств, зарабатывая не деньги, а "очки репутации". Оценки биржи получались более точными, чем в отчетах разведчиков-аналитиков (хотя к исследованиям есть и вопросы).

Но данные ЦРУ недоступны обычным людям. Чтобы хорошие предсказания были публичными, нужно привлекать деньги на открытые биржи. В России можно было бы обложить налогом ставки на спорт и стимулировать букмекеров создавать рынки предсказаний. Политические события не менее увлекательны, чем футбол, ну а лудоманам вообще безразлично, на что именно ставить (например, на фейковый чемпионат по крикету, который снимали в деревне специально для россиян). 

Возможность заработать на лудоманах привлечет тех, кто делает предсказания хорошо, а мы получим точные коэффициенты для множества событий – и вместо бесполезного знания о том, что вероятность победы Манчестер Сити в ЛЧ – 36%, будем знать, например, вероятность того, что война закончится ближайшей весной. 

Ну а журналисты и эксперты должны вести публичный реестр всех своих прогнозов - будет понятно, насколько им можно доверять.

↑ Ваня Богатый написал хороший пост. Там несколько интересных мыслей, но ухвачусь за одну: cтремление каждой компании стать монополией. Я бы посмотрел на этой чуть шире: любая компания постоянно борется с драконом – государством, но его убийца, как известно, становится драконом сам. Великие компании пытаются собрать в руках у себя столько власти, чтобы превратиться в государство самим.
У некоторых компаний получается оседлать дракона (политологи придумали красивый термин - state capture), но вот убить – почти никогда. Когда-то у Ост-индской компании было в два раза больше солдат, чем у Британской империи, но компания мертва, а тело британского короля (второе, конечно) - все еще в отличной форме.

Каждый имитирует государство так, как умеет. Господин Пригожин провел светлые годы своей молодости за решеткой, так что хорошо понимает язык силы – для своего альтернативного государства он покупает танки. Юность Цукерберга и Брина прошла в университетских стенах: они верят, что мир определяется технологиями, а значит государство – тот, кто контролирует их развитие на всех этапах.
Идея не такая уж очевидная: раньше компании не так уж сильно интересовались прорывными исследованиями. За исключением знаменитой Bell Labs и японской Asahi Kasei все Нобелевки получали ученые, работающие в университетах.

А вот в исследованиях искусственного интеллекта, даже фундаментальных, все совсем по-другому. Все больше ученых, особенно самых цитируемых, переходят в частные компании: там больше платят (исследователь вполне может получать и миллион долларов в год), а еще есть доступ вычислительным мощностям и массивам данных, без которых делать прорывные исследования сейчас уже невозможно. В итоге у тех, кто сбежал в частные лаборатории, даже растет цитируемость – больше ресурсов для проверки интересных гипотез и меньше скучных обязательств вроде чтения курсов для глупых первокурсников. Результат у всего этого простой: Google публикует в полтора раза больше топовых ИИ-исследований, чем любой мировой университет.

Можно было бы возразить, что прикладные исследования были в компаниях всегда, и какие-нибудь несчастные химики до сих пор разрабатывают в P&G рецепт новых шампуней от перхоти. Но присмотритесь к новому тренду: технологические компании начали нанимать философов и политических теоретиков. Скажем, DeepMind – ИИ-компания, которой владеет Google, нанимала исследователей в области регулирования ИИ, а вот пример политического философа, работающего там сейчас.

Если упростить, то роль социального теоретика в мире довольно прямолинейна: появляется какая-то новая проблема – допустим, технология, невообразимая ранее, вроде искусственного интеллекта или ядерного оружия. Теоретик предлагает решение – пишет чрезвычайно умную книгу, где формирует новый набор ценностей, который может стать решением – это может быть утопический образ прекрасного будущего в духе Роулза или набор конкретных предложений, как у Пикетти. Обычно его никто не слушает, но иногда везет: может быть, его приглашают в Давос, где он рассказывает миллиардерам, как нужно обустроить мировую экономику, а может быть, среди его учеников оказывается будущий президент США. В любом случае, идеи из платоновского мира доходят и до нашей плохо обустроенной пещеры.

Но раньше работала система разделения властей: проблемы формировались в одном месте, а ценности – в другом. Теоретик – в университетском подобии Касталии, а все остальные – в реальном мире, чуть скучном и обшарпанном. Но если философов постигнет судьба ИИ-ученых (да, это маловероятно, но давайте вообразим этот удивительный мир приватизированных исследований), то получится, что компании будут придумывать себе ценности сами: теоретик, работающий на Google, будет вынужден, пускай и неосознанно, подстраивать выводы своих работ под интересы компании.

Поэтому если следующий бестселлер «Фаланстера» напишет сотрудник Google – не удивляйтесь, что его предложения удивительно выгодны одной технологической компании.

Технологические монополии

Знакомый недавно закончил достаточно хорошую PhD-программу в США и вышел на работу в IBM Research, несмотря на мои настойчивые попытки пристроить его в Google Research. После нескольких месяцев работы предсказуемо рапортует о сонных, немотивированных коллегах. Чтобы с моими дорогими читателями такой беды не приключилось, попытаюсь порассуждать, где на Руси жить хорошо где хорошо делать прикладную науку и почему Google десять лет подряд был лучшим работодателем в мире.

Чтобы с пользой вкладываться в долгосрочные исследования, нужны две вещи: свободные ресурсы (чтобы было вообще что вкладывать), и уверенность в том, что когда результаты подоспеют через 10-20 лет, собирать урожай предстоит все еще вам (а не чужим людям или даже прямым конкурентам). И для первого, и для второго весьма хорошо иметь монополию.
Лучше всего, конечно, монополия государства на насилие. Если государство забирает себе 20%–50% всех доходов всех своих подданных, ему очевидно выгодно вкладываться в науку: любое будущее увеличение экономической активности, в любом месте, автоматически приводит к поступлениям в бюджет. Но монополия на насилие в демократическом государстве глубоко забюрократизирована, и академическая среда устроена по образу и подобию своего патрона, демократического государства (как любит писать великолепный Галеев, успешные институты переупорядочивают мир за собой): ежегодные подачи и переподачи на гранты, прохождения по конкурсу (~=election cycles), "diversity and inclusion statements" и так далее. Имидж не просто важнее реальности, он и есть реальность. Суетливо, скучновато.

Есть и другой путь. Быть технологической монополией почти так же хорошо, как и быть государством. Microsoft создали операционную систему (Windows), она стала непререкаемым бизнес-стандартом. Теперь любое увеличение экономической активности, в любом месте, требует покупки новых PC, на которых обязательно должна быть куплена лицензия на Windows. Люди могут хоть лабораторное мясо производить, хоть VR-игры, без профита для Microsoft не обойдется.

Поэтому в каждую эру была своя доминантная технологическая монополия: те, кто уже изобрел инновацию и сделал из нее машину по захвату мира, но этой машине еще есть куда расти, и ее все еще не коммодитизировали.

Дальше будет очень грубо, потому что не все так линейно, но. В 1920е-1970е любая бизнес-активность шла через телефонную связь, поэтому в числе доминантных монополий были AT&T и Bell Labs. Неудивительно, что их исследовательский отдел собрал сильнейшие таланты своей эры и получил несколько Нобелевских премий и премий Тьюринга, включая моего любимого Ричарда Хэмминга.

В 1980х монопольным "пропускным пунктом" были компьютеры IBM, и неудивительно, что именно они на свои прибыли сделали первый в мире компьютер, который победил человека в шахматы (Deep Blue, победил Гарри Каспарова).

В 1990х-2000х "железо" успешно коммодитизировали, а монопольным пропускным пунктом стала ОС Windows. Поэтому максимально интересно было работать исследователем в Microsoft Research, и максимальное количество премий Тьюринга, кажется, было там же.

В 2010х доминатные монополии – Google и Facebook. Если вы собрались делать бизнес, хоть цветочный магазин, хоть дейтинг-приложеньку, вам нужно будет его рекламировать в Интернете: либо в Google, либо в Facebook (=Instagram, etc). Поэтому неудивительно, что в последнее время самые интересные открытия в AI появляются именно там. Но, увы, экс-коллеги говорят, что уже и Google не торт: потолок насыщения все ближе, гайки закручивают все сильнее, понаприходили трудоголики из Microsoft Research и оптимизируют гиперпараметры нейросетей круглыми сутками, вытесняя "свободных художников".

Где же лучше всего прямо сейчас? Длинную версию отложу на потом, но короткая версия – думаю, что в крипте. Я все-таки не случайно Research Partner в Dragonfly, крипто-венчурном фонде.

​​Удивительный факт - ожидаемая продолжительность жизни в Китае стала выше, чем в США -  CDC cовсем недавно опубликовал свежие данные. Цифры сами по себе говорящие, но становится еще интереснее, если добавить немного контекста.

Во-первых, это идеальная иллюстрация, почему в США уже лет десять как не могут перестать говорить о неравенстве. Как подметил Адам Туз, сегодня ожидаемая продолжительность жизни у чернокожего мальчика в Руанде выше, чем в США. И дело не только в расе. В последние десятилетие необразованные белые американцы массово умирали от “отчаяния”: количество смертей от передозировки наркотиков, алкоголизма или суицида среди тех, кого иногда снисходительно называют white trash, выросло почти в два раза (Ангус Дитон, лаурет Нобелевской премии, и Энн Кейс написали об этом неплохую книгу - Deaths of Despair and the Future of Capitalism). Средний класс при этом живет нормально: если вы забьете в калькулятор лет жизни свои собственные данные, то поймете, что прожили бы в Америке немало. 

Во-вторых, поразительно, что все это продолжает существовать при колоссальных - самых больших в мире - расходах США на здравоохранение: на медицину там уходит порядка 11,000 долларов на человека в год - в полтора раза больше, чем у ближайшего преследователя (Швейцарии), и в два раза больше, чем, скажем, в Канаде, где ожидаемая продолжительность жизни - далеко за 80 лет. Неконтролируемый рост расходов начался в 80-е, и как раз тогда Штаты начали сильно отставать от других развитых стран.

P.S. В России, как вы понимаете, все еще печальнее: ожидаемая продолжительность жизни для мужчин - примерно столько же, сколько в Руанде (у женщин, впрочем, получше).

В последнее время из российского телевизора часто можно услышать, что Европа – умирающий американский холоп, не влияющий ни на что в мире. С некоторыми фактами сложно спорить: с 2008 по 2020 г. совокупный ВВП Германии и Франции упал на 3%. Но это только часть картины: на самом деле ЕС находится гораздо ближе к статусу глобального гегемона, чем можно подумать – просто гегемония эта находится не там, где вы ее искали.

ЕС выбрал не совсем типичную стратегию: создал лучшую в мире машину в мире по производству законов, где тысячи бюрократов методично создают свой собственный аналог Вавилонской библиотеки – пишут многотомные трактаты, пытаясь зарегулировать каждый аспект человеческой жизни. И вот парадокс: эти законы работают и за пределами ЕС.

На прошлой неделе Европейская комиссия даже открыла свой офис в Сан-Франциско, чтобы общаться с местными tech-гигантами. Получается забавно: все важные компании – в Кремниевой долине, а их регулятор – в ЕС. Никто другой так делать не умеет: Америка пытается быть верной идеалам laissez-faire, да и партийная поляризация иногда мешает принимать по-настоящему влиятельные законы. В Китае регулирования достаточно, но неоднозначная репутация на международной арене усложняет адаптацию этих норм за рубежом.

А вот с незримым влиянием Европы мы сталкиваемся каждый день. Наверняка вы ругались, что зарядка для айфона отличается от других телефонов - производители никак не могли договориться о едином стандарте. Европейская бюрократия поставила точку в этом вопросе: с 2024 г. все новые телефоны, продающиеся в ЕС, должны иметь разъем Type-C. Европа – это четверть мировых продаж Apple, производить отдельный продукт для европейцев будет невыгодно, так что теперь все айфоны в мире скорее всего будут заряжаться через Type-C.

Можно возразить, что зарядка – важная штука, но вряд ли влияние государства определяется тем, кто выбирает форму штекера. Но «Брюссельский эффект» позволяет навязывать миру и куда более важные ценности.

Самый простой пример - законы о hate speech, «языке вражды». Из России Америка может выглядеть как царство победившей толерантности, но Первая поправка все еще играет там огромную роль: свобода слова включает в себя свободу ненависти, так что юридических ограничений оскорбительных речей не существует. 

А вот Европе отношение совсем другое - hate speech там запрещена. В 2016 Европейская комиссия подписала соглашение с Facebook, Twitter, YouTube, и Microsoft: они обязались применять в своих продуктах правила, соответствующие европейским нормам. Facebook, например, нанял тысячи модераторов, следящих за тем, чтобы дискриминационный контент не появлялся на страницах соцсети. Разделить европейский и глобальный Фейсбук очень сложно, так что европейские правила применяются по всему миру – в том числе и в США, несмотря на Первую поправку.

Сейчас ЕС пошел еще дальше и этим летом принял два новых закона: Digital Services Act (DSA) и Digital Markets Act (DMA). DSA защищает пользователей: например, запрещает таргетировать рекламу по признаку политических взглядов, национальности или сексуальной ориентации. DMA ограничивает власть экосистем: например, в Apple скорее всего будут вынуждены разрешить установку сторонних магазинов приложений, а еще не смогут комбинировать данные из разных источников для таргетированной рекламы без прямого согласия пользователя.

На подходе еще и AI Act – пока что самая детальная в мире попытка зарегулировать вопросы искусственного интеллекта. Он заслуживает отдельного поста, но, например, алгоритмы автоматической оценки кандидатов при приеме на работу отнесли к категории «высокого риска», требующей сертификации – и это серьезно повлияет на бизнес LinkedIn. 

Когда я учился в Sciences Po, то удивлялся, почему так много моих однокурсников мечтают стать скучными европейскими бюрократами. Потом понял, что это идеальное воплощение жизни мандарина: сидя в брюссельской башне из слоновой кости, писать слова, по которым будет жить весь мир.

​​Известно, что у интеллигента нет биографии - только список прочитанных книг. Дополняя Мандельштама, можно было бы сказать, что тем, кому повезло прожить по-настоящему увлекательную жизнь, обычно не хватало времени на то, чтобы читать. Но бывают и исключения.

Одна из самых любопытных книг, что попались мне за последние месяцы – Stalin’s Library: A Dictator and his Books Джеффри Робертса, британского историка из Корка. Задумка совершенно гениальная: изучить pometki Сталина на полях прочитанных им книг, чтобы разобраться в загадочной русско-грузинской душе - в конце концов, это самый личный из сохранившихся источников, ведь Сталин, увы, не вел дневников.

Реализация оказалось чуть более скромной: хотя библиотека генсека к концу жизни составляла более 25,000 книг, пометки сохранились только на 400 из них – причем в основном Сталин оставлял на полях довольно нейтральные «NB», «да» и «мда». Ни тайных признаний в либерализме, ни кровожадных призывов расстрелять каждого третьего… Но кое-что интересное из книги все же можно почерпнуть.

Сталин действительно много читал. И хотя 300-500 страниц в день, о которых писали некоторые из поклонников - явная байка, количество книг в библиотеке явно свидетельствует о том, что за жизнь ему удалось прочитать немало. Судя по пометкам, он был абсолютно искренним марксистом и таким же искренним поклонником Ленина, но при этом внимательно читал своих будущих противников – например, Троцкого, Зиновьева и даже белых эмигрантов. Комментарии к их текстам – от «метко» до «сволочь» и «подлец».

И мне кажется, что именно эти чуть смешные возгласы – маленький, но очень показательный кусочек души автора.

Не так давно я рассуждал с подругой о том, что же все-таки означает высокопарное и гордое слово «интеллектуал». Иметь высокий интеллект – это необходимое, но совсем не достаточное условие. Но что же еще нужно? Предпочитать авторское кино сериалам на Нетфликсе? Но это все поверхностное, наносное. С презрением относиться к деньгам и мирскому успеху? Но мы же говорим об интеллектуале, а не о буддисте И как раз в книжке Робертса я встретил очень точное определение: интеллектуал – это человек, для которого идеи имеют эмоциональное значение.

Если вы, читая книгу, когда-нибудь испытывали эстетическое удовольствие от того, что набор утверждений внезапно складывается в убедительный аргумент, а набор аргументов – в безупречную логическую картину, объясняющую какую-нибудь маленькую часть мира, то вы понимаете, о чем речь. Судя по комментариям Сталина, он тоже испытывал такие чувства – и вполне мог любить и ненавидеть абстрактные сущности.

Один британский психолог предложил классифицировать людей по двум критериям: их склонности к эмпатии и способностям к систематизации. И кажется, что настоящая, безусловная любовь к идеям возможна в том случае, если ты находишься в правом нижнем углу спектра – прямо там, куда Джонатан Хайдт определил Канта или Бентама (см. прикрепленную картинку). Высокая систематичность нужна для того, чтобы испытывать удовольствие от наблюдения за чистой логикой, а низкая эмпатия – для того, чтобы чувства людей не казались более важными чем красота идеи. Сложно быть безоговорочным сторонником логически безупречного утилитаризма, если вы в красках можете представить слезинку того самого ребенка, которого замучили ради гармонии мира.

Впрочем, судя по книге, Сталина вряд ли можно поместить в самый правый угол – в том, что касается абстракций, он был скорее ремесленником, чем гением. Зато многие из его товарищей-революционеров наверняка были там – сложно спорить с тем, что первое поколение большевиков у власти было самым интеллектуальным правящим классом в российской истории – если брать в качестве определения именно искреннюю одержимость идеями (после такого начинаешь думать – а так уж нужны нам эти интеллектуалы у власти?)

Как построить идеальную шпионскую сеть?

Китай часто обвиняют в воровстве технологий, но многие представляют этот процесс совершенно комично: как будто американский предатель, тайком скачав чертежи нового самолета на флешку, ночью передает ее китайскому агенту где-нибудь в Центральном парке. 

Такое, наверное, случается, но проблема в том, что формальные, записанные знания – лишь малая часть того, что нужно, например, для запуска самолета. В 1979 г. корейская Daewoo открыла первую текстильную фабрику в Бангладеш. 130 работников пришлось учить с нуля, но два года спустя почти все они покинули Daewoo и основали свои собственные компании: только они знали, как именно управлять текстильной фабрикой, и создали индустрию, которая приносит стране 70% экспортной выручки.

Вот и для продвинутых технологий нужны исследователи с опытом, но тут у Китая все еще есть сложности. Хотя по многим показателям научной продуктивности Китай уже обогнал США, блестящая научная карьера все еще скорее ассоциируется с лужайками Гарварда, а не с прудами Пекинского университета. Например, среди топовых исследователей ИИ китайского происхождения 56% защитили диссертацию в США, и только 30% - в Китае. Почти все, кто уехали, домой не возвращаются, хотя и тут ситуация медленно меняется: в 2005 г. в США хотели остаться 95% китайских PhD-студентов, а к 2017 г. - уже 87%.

Что же делать? Воровать не чертежи, а ученых. Китай делает это через многочисленные грантовые программы, самая известная из которых – это План тысячи дарований.

На первый взгляд, звучит довольно безобидно: в конце концов, ученый и грант – неразлучные братья, а получение иностранного финансирования – совсем не шпионаж. Но о безопасных программах ФБР не пишут предупреждения на своем сайте, а их участников не сажают в тюрьму. Все дело в том, что китайские программы – особенные.

Обычно на гранты ученые подаются сами: готовят CV, отправляют заявку и ждут одобрения. Китайцы действуют проактивно: по всему миру открыто не менее 600 «рекрутинговых станций» - они определяют перспективных ученых и предлагают им поработать вместе.

Формы сотрудничества – на любой вкус. Можно уехать профессором в китайский университет, а можно остаться в Америке, делясь экспертизой с какой-нибудь китайской исследовательской группой. Для тех, кто устал от бедной академической жизни, есть бонусные опции: коммерциализировать свои разработки в Китае при поддержке специального венчурного фонда.

Ученые, получившие поддержку, часто держат это в секрете. Это разумно: сейчас в Штатах напряженно относятся к технологической гонке с Китаем, так что за излишнюю близость с главным геополитическим соперником можно и схлопотать. Texas A&M University обнаружил, что больше 100 его сотрудников получали финансирование из Китая. Все они были обязаны раскрыть эту информацию работодателю, но сами сообщили об этом только пятеро. Возможно, дело в том, что получатели грантов часто работают над чувствительными темами: один китайский эмигрант вел комфортную жизнь австралийского профессора, заодно став одним из тысячи дарований. Позже оказалось, что его стартап помогал выстроить систему видеонаблюдения в Синьцзяне.

Обычно ищут этнических китайцев, но ими не ограничиваются. Например, рекрутерам удалось завлечь в свои сети одного из ведущих химиков мира – Чарльза Либера. Помимо химии он знаменит тем, что вырастил самую большую тыкву в Массачусетсе – а еще тем, что в 2020 г. был арестован за сотрудничество с китайцами.

Но как убедить ученого, не озабоченного деньгами, передавать секреты чужой стране? Сегодня китайцы могут поймать честолюбцев на куда более заманчивый крючок – предложить им не чемодан, набитый долларами, а вечную славу. Сам Либер, сокрушаясь, рассказывал, что подружился с китайцами только потому, что надеялся: они помогут получить ему то, что он давно заслуживал – Нобелевскую премию (но чемодан с деньгами он тоже взял).

Не так романтично, как передача документов в ночном парке, зато куда более эффективно.

Больше всего в детстве я не любил те дни, когда утром, еще до школы, нужно было вставать на тренировку. Семь часов утра, мороз и темнота: ждешь троллейбуса, чтобы немного погреться в дороге, а потом полтора часа уныло месить воду в бассейне от бортика к бортику, всем сердцем ненавидя эти минуты. Теперь все почему-то изменилось: последние полгода я ходил на такие же утренние тренировки с удивительной для себя радостью – и вот вчера, наконец, переплыл заветный Босфор, 6.5 км из Европы в Азию.

Когда находишься в Стамбуле, сложно не думать о русской эмиграции. Пару недель назад The Economist написал проникновенную статью: «вся российская интеллектуальная элита бежала из России». Это, конечно, преувеличение, но кое-что точно правда: в ближайшие годы восприятие России на Западе будет определяться людьми, которые находятся за ее пределами: на международных форумах уже не будет спикеров из российских компаний, и даже экспертам из российских университетов будет куда сложнее получить площадку для высказываний.

Эмиграция становится «экспортным лицом» России: теми, кто объясняет внешнему миру, что и почему происходит в нашей стране. Это хорошо: уехавшие могут говорить свободно, не опасаясь преследований. И это очень плохо: находясь снаружи, иногда сложно понять, что на самом деле происходит в стране – а иногда понимать и не хочется, особенно если политические цели становятся важнее объективной картины.

Один такой эмигрант даже умудрился стать не последней причиной для огромной войны: его биография кажется мне фантастической, поэтому расскажу ее здесь.

Ахмед Чалаби родился в богатой багдадской семье в 1945 году: папа был членом парламента, а родственники когда-то управляли старейшим иракским банком. Но в 1958 году монархия пала, и семье пришлось бежать из страны.

Ахмед неплохо справлялся и в эмиграции: изучал математику в MIT, защитил диссертацию в Чикагском университете. Поначалу Чалаби даже манила жизнь в башне из слоновой кости: несколько лет он проработал профессором в Ливане, где еще и успешно женился – на дочери Аделя Оссейрана, одного из отцов-основателей Ливанской Республики.

Но жизнь академика все-таки показалась ему скучной: в 70-е Чалаби вместе с наследным принцем Иордании основывает один из крупнейших банков страны – Petra Bank. Мозги профессора математики отлично пригодились для того, чтобы подделывать финансовую отчетность, но в итоге нарушения вскрылись: банк рухнул, правительство было вынуждено платить по его долгам, а самого Чалаби приговорили к 22 годам тюрьмы. Он, впрочем, снова успел сбежать – в багажнике машины принца.

Бежав в Лондон, Чалаби нащупал самую большую бизнес-возможность в своей жизни: в 1990 году иракские танки вторгается в Кувейт, так что страна превращается в мирового изгоя. Чалаби решает, что отныне от лица своей родины будет говорить именно он. В 1992 году он основывает Иракский национальный конгресс (INC), главная цель которого – освобождение страны. Чалаби работает не покладая рук: в 1998 году Конгресс США принимает Iraq Liberation Act, так что смена режима в стране становится вполне официальной национальной целью (а значит, иракской оппозиции теперь выделяются вполне солидные суммы денег).

Чалаби утверждает: у INC есть информация от перебежчиков, подтверждающая, что Саддама разрабатывает оружие массового поражение, в том числе биологическое. Благодаря влиятельным друзьями Чалаби в стане американских неоконов, эта информация в итоге попадает на стол к Бушу. Пауэлл размахивает пробиркой с трибуны ООН, и начинается вторжение в Ирак.

После свержения Саддама Чалаби возвращается к себе на родину и даже в течение месяца возглавляет Временный управляющий совет. Никакого оружия массового поражения в Ираке, кстати, не нашли. Возможно, Чалаби просто сфабриковал доказательства, возможно – заблуждался сам, но своим влиянием на вторжение в Ирак он явно гордился. И точно бы порадовался, если бы прочитал свои некрологи, называвшие его человеком, «ввязавшим Америку в войну».

Искусственный интеллект уже используется в Китае как вспомогательный инструмент при принятии политических решений: например, алгоритмы помогают китайским судьям получать рекомендации по релевантным законам и писать драфты решений.

Но для того, чтобы ИИ смог выносить решения сам, нужно еще много работы. Немного упрощая, можно сказать, что развитие ИИ зависит от трех ключевых факторов: наличия специалистов, финансирования и доступности данных.

По первым двум Китай все еще отстает от США: 29% ведущих мировых исследователей в области ИИ – китайцы, но работают в Китае только 11% (посмотрите красивый отчет про Global AI Talent от Macro Polo). С финансированием ситуация похожа – частные американские компании пока инвестируют в ИИ-стартапы в три раза больше денег, чем китайские (еще один полезный отчет про сравнительную силу национальных ИИ-экосистем). Зато с точки зрения доступности данных Китай, похоже, опережает всех конкурентов.

Например, здесь уже больше года работает довольно революционный механизм – биржи данных. Shanghai Data Exchange (SDE) открылась в прошлом ноябре, а ее аналог в Пекине работает с марта прошлого года.

Механизм работы простой: компании могут продавать друг другу «сырые» данные или более сложные продукты. Вот, скажем, одна из первых транзакций: китайский банк купил данные по потреблению электричества у местного аналога Мосэнергосбыта, чтобы лучше понимать своих корпоративных клиентов.

Пока на биржах присутствуют в основном государственные и квази-государственные компании, но китайское правительство обладает удивительной способностью быть убедительным, когда нужно заставить бизнес работать ради национального блага.

И тут есть несколько интересных наблюдений.

Во-первых, биржи данных – пример того, как скучные марксистские абстракции превращаются в реальность. В плане на четырнадцатую пятилетку китайская компартия написала: data is the new oil данные – это новый фактор производства. И раз партия сказала, что фактор производства существует, то задача правительства – создать инфраструктуру для торговли им. Детальные китайские планы по цифровизации и развитию больших данных описывают именно это (они даже переведены на английский – почитайте, там море всего интересного).

Во-вторых, в создании бирж огромную роль играет активность региональных правительств. Скажем, деятельность SDE в Шанхае регулируется местным законопроектом, принятым прямо перед ее открытием. Почему это важно? Потому что, хотя Китай и кажется самым централизованным государством на планете, его было бы правильнее назвать регионально децентрализованным авторитарным режимом. Компартия полностью контролирует все политические назначения, но у регионов остается довольно много пространства для экспериментов в области экономики: больше 90% все государственных расходов в Китае - в руках регионов и муниципалитетов, и эта цифра значительно выше, чем у любой западной федерации (я писал об этом отдельный пост).

В-третьих, правовые инновации Китая демонстрируют, как будет строиться противостояние между демократиями и автократиями в области ИИ. Сейчас в социальных науках существует консенсус – при прочих равных демократические государства несколько более эффективны в создании инноваций. Но когда речь заходит об ИИ, этот недостаток компенсируется доступом к огромным массивам информации. Например, Китай очень активно наблюдает за своими гражданами, и поэтому у местных исследовательских институтов уже давно есть доступ к самым широким в мире наборам данных в области распознавания лиц, а теперь – еще и к механизмам для их обмена. Биржи – просто один из примеров, а хороший обзор есть, например, в 4 главе этой статьи.

Впрочем, гарантии, что биржи заработают, нет. Впервые такую штуку запустили в Гуйяне еще в 2014 году - тогда история быстро заглохла. Но сейчас внимания к теме данных со стороны государства гораздо больше – а значит, больше и шансов на успех.

Хочется сказать что-то глубокомысленное про Тайвань, но сдержу свои порывы - сейчас это просто игра в угадайку.

Но чтобы вы не скучали до половины шестого, поделюсь очень красивой статьей годовой давности с визуализацией сценариев китайского вторжения на Тайвань. С большого экрана смотрится лучше, но и с телефона - вполне неплохо.

https://www.reuters.com/investigates/special-report/taiwan-china-wargames/

В Йеле есть знаменитый курс - Grand Strategy, где бакалавры и магистры, прошедшие непростой отбор, изучают классические тексты и общаются с политиками для того, чтобы научиться мыслить глобально. Легенда гласит, что идея курса появилась после того, как один из будущих профессоров пообщался с чиновником клинтоновской администрации - тот отвечал за расширение НАТО в Восточной Европе, но совершенно не задумывался о долгосрочных последствиях своих решений. 

Рассуждать о том, какие тексты должны читать будущие политики и дипломаты - занятие чрезвычайно увлекательное. Жаль только, что “большие стратегии”, “великие шахматные доски”, “хартленды” и “римленды” - словом, вся эта александр-дугиновская муть - оказывают гораздо меньшее влияние на принятие политических решений, чем хотелось бы верить тем, кто пишет программы таких курсов.

Проблема всех этих концепций - в том, что они основываются на двух очень сильных предпосылках. Первая: государство - единая сущность, у которой есть некие объективные цели. Вторая: интересы людей, которые находятся у власти, совпадают (или хотя бы могут совпадать) с целями государства.

Если в первую часть еще можно поверить, то вторая - очень наивна. Политики, принимающие решения, руководствуются прежде всего своими собственными целями, которые редко совпадают с тем, что можно назвать “объективными интересами нации”. Маленькие, но сплоченные группы успешно лоббируют свои интересы, даже если эти решения вредят большинству. 

Как это работает, например, в США? С одной стороны, у вас есть население, для которого войны где-то в далеких странах - вопрос десятого приоритета. Скажем, в 2015 г. примерно 30% республиканцев заявили, что поддерживают бомбардировку Аграбы. Демократы были настроены более миролюбиво - 44% из них были готовы принять аграбских беженцев. Есть только одна небольшая проблема: Аграба - это город из “Алладина”. 

С другой стороны, есть группы интересов, которые отлично знают, чего именно хотят. @kamil_galeev недавно отлично написал о том, что в России часто переоценивается влияние американского Госдепа и недооценивается - Минобороны. Добавлю пару цифр для контекста. В 2019 г. Минобороны потратил на госзакупки почти 360 миллиардов долларов - в 10 раз больше, чем ближайший преследователь - Министерство энергетики (больше бюджеты только у Минздрава, но там почти все деньги уходят на Medicare и Medicaid, а не на закупки).

В отличие от обычных избирателей, которые настолько не знают, чего хотят, что готовы разбомбить даже город из мультфильма, компании-производители вооружения отлично понимают, что хотят получить эти 360 миллиардов - а желательно и побольше. Что они для этого делают? Например, спонсируют исследовательские центры вроде PNAC, выступающие за агрессивную внешнюю политику. Ну а чтобы растущие военные бюджеты достались именно им, компании выстраивают дружеские отношения с военными, гарантируя, что их старость не пройдет в нищете. 

80% генералов, ушедших на пенсию с 2004 по 2008 гг., стали работать на компании военно-промышленного комплекса. Например, в конце нулевых существовала консалтинговая компания с прекрасным названием Four Star Group - пожилые генералы помогали финансистам выбирать правильные объекты для своих вложений (и, вероятно, помогали этим “правильным объектам” получать госконтракты).

Обо всем этом детально пишет в новой книге Ричард Ханания - очень рекомендую либо саму книгу, либо детальный обзор на ACX, либо хотя бы короткую рецензию на русском языке. 

Кстати, йельская программа по Grand Strategy в итоге оказалась отличным примером того, почему “великих стратегий” не существует, а есть лишь “мелкие интересы”. Год назад один из спонсоров курса увидел, что  студентам о международных отношениях рассказывали совсем не так, “как это сделал бы Генри Киссинджер”. В итоге директору программы (он еще и осмелился критиковать Трампа) пришлось уйти в отставку - в конце концов, солидные люди дают деньги на университеты совсем не для того, чтобы там проповедовали какую-то чепуху.

​​Вчера Мишустин распределил ответственность за высокотехнологичные отрасли по вице-премьерам: импортозамещение явно прихрамывает, так что отвечать за провалы теперь придется лично.

Ну и конечно, многочисленные комментаторы, вполне в духе вечного российского «поворота на Восток», не устают отсылать к китайскому опыту – ведь там Компартия якобы давно и семимильными шагами движется к полной технологической автаркии. Разве что c полупроводниками все еще сложности, но ведь и Тайваньский пролив так соблазнительно узок…

На самом деле, ситуация несколько сложнее – очень рекомендую отличное исследование, довольно детально описывающее результаты китайской технологической политики в последние два десятилетия. Парадоксально, но санкции США кое-где оказались более полезны для Китая, чем поддержка собственного правительства. Но обо всем по порядку:

Во-первых, за последние два десятилетия технологические системы Китая и США стали более интегрированы друг с другом. В 2000 году китайцы почти никогда не цитировали американских патентов, и уж точно американцы не утруждали себя цитированием китайцев.

С начала века взаимозависимость двух систем росла – сначала, впрочем, только за счет того, что китайцы начали активно использовать американские изобретения в своих разработках. Но к концу нулевых паттерн изменился: уже к 2019 году Китай впервые зарегистрировал больше международных патентов, чем США – так что американские изобретатели стали гораздо чаще обращаться к китайским наработкам (наглядная иллюстрация траектории – на иллюстрации к посту).

Во-вторых, политика выделения ключевых высокотехнологичных областей в Китае, похожая на то, что сейчас делает Россия, имела двойственный эффект. В 2012 году Китай определил 7 новых стратегических отраслей промышленностей (например, биотехнологии, новые материалы, энергосберегающие технологии). Государство обеспечивало поддержку за счет разнообразных стимулов – от грантов на R&D до поддержки в найме наиболее талантливых сотрудников.

Спустя 7 лет приоритетные сектора промышленности действительно оказались менее зависимыми от американских технологий, чем остальные. Но излишнее государственное внимание снизило индивидуальную эффективность фирм: те компании, что работали в приоритетных секторах, создавали новые патенты реже, чем те, кто не вошел в заветные списки. При этом те, кому повезло в них попасть, имели большую прибыль и выше оценивались на бирже. Это довольно логично – если ты и так неплохо зарабатываешь благодаря поддержки правительства, стимулы для создания прорывных технологий снижаются.

В-третьих, эффект санкций США, которые усилились после 2014 г., был практически обратным: прибыли фирм, попавших под удар, упали, количество патентов тоже сократилось, зато выросла оригинальность их разработок (ее измеряют как разнообразие классов технологий, которые цитируют авторы в своих патентах). Конечно, отчасти помогла и правительственная поддержка подсанкционных областей, но все равно удивительно, насколько странно могут работать санкции.

Впрочем, цитирование патентов – не единственный способ измерять технологическую зависимость. Например, Китай – одна из тех немногих стран, что успешно создала свою интернет-экосистему – это дает Компартии беспрецедентный уровень контроля за гражданами, но зато косвенным и довольно неочевидным образом подрывает перспективы китайской «мягкой силы». Но эта история, увы, уже не помещается в пост, так что расскажу ее в следующий раз.