roguelike theory

#DT 14. Критика спекулятивного разума 2. Василиски и мистики. Василиск Роко – рукотворный всемогущий монстр из будущего, чье первое действие – бесконечно пытать всех, кто отказался работать над его созданием. Как только он пришел вам в голову, у вас – утверждает модель DT – просто нет выбора, придется идти его создавать, иначе кто-то другой всё равно сделает и будет плохо. (Видимо, для того, чтобы эта логика работала, василиску придется всех воскресить, что вносит в эту историю криповые вайбы русского космизма). В этом замечательном образе стоит заметить следы той логики, с которой люди в наше время часто оправдывают свое участие в разных злодействах. В случае DT, мне кажется, проблема Роко это отличный пример последствий отказа разделять моделирование и спекулирование.

“Мозговой вирус” это некий объект, который (согласно его изобретателю) каким-то образом сам логически следует из себя или из самой структуры определенным образом понятого бытия, а потому может появиться в любой модели – поскольку логические системы редко разделяют возможные и действительные умозаключения, теоретически это то же самое, что и считать, что он всегда уже есть в любой модели, на практике же, конечно, о них обычно всё же забывают (вы думаете о василиске, планируя свой ужин?). Мозговой вирус существует в том же смысле, что и вычурные математические теоремы, сформулированные как тавтологии. Такой вирус – святой грааль философии, ее древнейшая мечта: придумать мысль, которая настолько хорошо бы сама себя порождала, чтобы философский объект наконец стал реальным.

Платоновские идеи, его рассуждения, основанные на том, что логика понятия из какой-то конкретной ситуации должна обязательно действовать так же, без изменений в любой другой, это прямой отказ различать моделирование и спекуляцию. Онтологическое доказательство святого Ансельма – Бог прекрасен => существование прекраснее несуществования => Бог существует – практически совпадает с василиском Роко (чьё существование следует из его ужасности); у Роко, впрочем, требуется дополнительный деонтологический ход, чтобы василиск достиг физической реальности, но у доказательства существования василиска как необходимого мыслительного объекта логика абсолютно Ансельмовская. Гоббсовский общественный договор, необходимо принимаемый любым мыслящим субъектом. Категорический императив Канта. Гиперверие Ланда, в которой “дополнительный ход” для материализации опосредован не личной этикой, но культурой. Эти примеры попыток философов придумать мысль, которая сама бы себя вдруг делала реальной, артефакты их воли к власти, удивительны тем, что они как будто бы не работают, как описанные, в конкретных случаях (вам удалось перестать врать, прочитав Канта?), но всё же они связаны с историей Запада, табулируя важные ее вехи.

Мы можем назвать мистицизмом этот отказ от дискриминации мыслей для практического использования, и обычно он связан с мыслями определенной формы: мистицизм это прямое использование в практическом мышлении всех без разбору мыслей определенной формы, которые приходят как спекуляции нам в голову. Всем приходят мысли о богах, только религиозный мистик отказывается их судить и разделять, принимает их все; всем приходят мысли о деньгах, но только у экономического мистика любые случайные идеи о возможных доходах не могут выйти из головы, могут быть лишь заменены, в рамках модели, на другие, более доходные идеи. Параноидальный мистик, Гоббс, не может отказать своим случайным страхам; логический мистик – Платон – не может отказаться ни от одного логично звучащего рассуждения, требует им непосредственного, практического подчинения или не менее логично звучащего опровержения, субкультурный мистик воспринимает любую контингентную связь объектов потребления (футбольных клубов, вокально-инструментальных ансамблей) как выражение сознания какой-нибудь социальной группы, что немедленно превращается для него в этический императив.

Совершенно безумная драма про работу ИИ над уравнениями Навье-Стокса, одной из известнейших открытых математических проблем. Одни математики – среди них Тристан Бакмастер, опубликовавший эту историю, и Левент Альпёге, которому не повезло работать в Anthropic – с помощью ИИ (и Claude, и ChatGPT, и именно с помощью – не ИИ за них) доказали важную теорему и готовили ее к публикации (переписывали без спешки, чтобы не публиковать слоп). Вдруг OpenAI “неожиданно” нашли такое же доказательство – сказав всем, что с одного промпта, но на деле – закидывая проблему людьми-математиками и деньгами.

Странно, что такое же, да? Бакмастер спросил прямо OpenAI: вы тренировали на наших попытках доказать? Те промолчали. А потом поставили ему ультиматум: опубликуй результат без Альпёге (сотрудника Anthropic) в авторах, или будет хуже.

Он спросил: «Зачем вам разрушать свою карьеру?» Я ответил, что я учёный, и не понимаю, почему он считает, что публичное заявление разрушит мою карьеру. Он ответил: «Если вы не хотите, чтобы я был добрым, то мне не обязательно быть добрым».

Жаль, что нам не узнать точно, что на самом деле произошло в OpenAI. Но мой вывод таков: может быть, в итоге окажется, что ИИ – это такой поисковик по всему, что человечество сделало, даже кто-то это сделал совсем недавно и тайком. Один человек придумал как – через неделю все остальные могут повторить. Тотальная машина синхронизации знания, разрушающая возможность спокойной, медленной работы.

#DT 13. Критика спекулятивного разума 1. Научный или наукообразный разговор о вероятности обычно ведет за собой вопрос о модели, вопрос о том, какие возможности мы готовы рассматривать. Сэведж называет это “маленьким миром”: математическая вероятность не предполагает радикальной открытости к причудам судьбы, она требует ограниченного пространства возможностей. Но в жизни мы говорим о вероятности вовсе не так – в повседневной жизни “вероятность” попадается в разговорах как индекс неограниченной, генеративной спекулятивности, которой мы пытаемся поймать именно эту перипетийность жизни: “А что если пойдет дождь?” “А если завтра ядеркой?” “А вдруг выберут AfD?” – “Ну, это маловероятно”: это не вопросы, которые мы задаем в рамках заранее выбранной формальной модели, но наоборот – с их помощью мы направляем само наше моделирование. Несмотря на его несоответствие теоретическим ожиданиям, у этого отношения к вероятности есть важная претензия на адекватность реальности: “маленький мир” это оксюморон, мир всегда большой, это модели – маленькие, не способные учесть практически ничего.

Мы можем спекулировать, вводить новые и новые слагаемые в наши модели, даже полностью их менять. Это свойство нашего разума, но не только его – вы можете получить тот же эффект, попросив ЛЛМ придумывать гипотезы (этим уже занимаются ИИ-суперпредсказатели), или увидеть, как этот процесс развертывается общественными силами в комментариях на Полимаркете. Каждый день мы можем придумать какое-то новое будущее, испугаться его или обрадоваться ему, оценить его вероятность (всерьез, с помощью модели, или просто качественно, подобрав эпитет или эмоцию), и, возможно, модифицировать каким-то образом своё поведение.

Мой проект движим желанием показать неадекватность нормативных подходов к процессам принятия решений; это касается именно этой спекулятивной стороны, которая не подчиняется и не редуцируется к формальным требованиям теории вероятности. Модели же – способы оценить вероятность и полезность тех или иных перспектив в каких-то конкретных рамках и предложить адекватные этой оценке действия – оказываются инструментами или этапами этого процесса. Легче всего это разделение провести между человеком и механизмом, регулятором, скажем, термостатом или круиз-контролем, которые являются материальным воплощением той или иной модели; но, конечно, оно работает и с чисто умозрительными моделями.

Я скептически отношусь к разного рода попыткам навязать “рациональность” как тотальный закон мышления, которые воплощает, в первую очередь, Юдковский. Мой тезис, которого я касался уже в #DT-5, состоит в том, что предварительное обязательство (pre-commitment) быть рациональным противоречиво и, хуже того, легитимирует эксплуатацию (например, в условиях неравной рыночной власти, пример которой я описывал в #DT-6). Но разделение, которое я предлагаю, позволяет отдать этому идеалу дань: конкретные модели, как я надеюсь доказать, стоит воспринимать как формализуемые, при достаточно слабых условиях, малой ценой, даже если речь идёт о каких-то наивных и неформальных рассуждениях, или механизмах/регуляторах, сделанных без теории и на коленке. Под “малой ценой” я имею в виду что-то гораздо меньшее, нежели обещание вечно слушаться каких-нибудь правил и аксиом: какие-то конкретные и финитарные решения, формальные заплатки, каждая из которых бы подчинялась конкретному субъективному выбору, не принося никакую выразительность выводов (в тесных рамках выразительности модели) в жертву рациональной нормативности. Другими словами – обещать себе рациональность спекуляций – абсурд, но обещать рациональность моделей – реалистично, относительно несложно, но и едва ли принесет какие-то особые преимущества или доходы, кроме возможности использовать более-менее адекватный формальный язык для разговора о решениях.

Если это так, то мы можем довольно многое сказать об этих моделях, о довольно большой части процесса мышления, никак не опираясь на формальные ограничения перед спекулирующим разумом. Но самый интересный вопрос – не в самих рациональных моделях (довольно-таки простых, как правило), а в интерфейсе между этими спекулятивным и модельным процессами, центральную роль в котором играет вопрос о вероятности, которая является той формой, через которую эти два процесса коммуницируют.

Programming note: Отныне #DT посты будут раз в две недели 🫠Надеюсь, никому не испорчу этим ритм спекуляции.

#DT 12. Гемблинг 4: Рост и риск. Связь роста капитала с риском, которому он подвержен, это главное мифическое объяснение причин этого роста. Капиталист, мы слышим, рискует своим имуществом, отправляясь в свое приключение-предприятие, и за это хорошо вознагражден. С экономической точки зрения можно найти другие причины для роста капитала, нежели риск и удача: увеличение общественных возможностей соответствует росту напрямую (пусть и весьма медленному, если распределить этот рост по всем участникам экономики равномерно); более важный путь к росту – рыночная власть и сбор ренты, риск которых в первую очередь политический и потому, как правило, экзогенный для моделей (экзогенный для модели риск это интересная и важная идея, к которому придется еще вернуться). Сверхдоходы от власти не могут закрепиться как легитимные в фундаментальном мифе капитализма в силу явной антисоциальности этой позиции, даже если в повседневном обиходе этот вид инвестиций считается этически легитимным.

Остается риск как фундаментальная и легитимная причина роста капитала. Капиталист, ожидающий роста, должен найти какой-то адекватный риск. Иногда на это есть какие-то возможности, хотя стоит, конечно, скептически заметить, что доступ к действительно хорошему риску точно так же ограничен властью, как минимум полезными знакомствами. Зачастую такой риск приходится изобрести, сконструировать, математически перерабатывая доступные формы инвестиций с помощью финансовых инструментов – опционы создают риск на ровном месте; финансовые рычаги позволяют занять деньги, раздув риск до любой желаемой пропорции; секьюритизация объединяет разного рода риски в один продукт, который легко продать кому-нибудь еще. Это не всегда социально-негативная деятельность – такого рода манипуляции необходимы, чтобы люди могли коллективно вкладываться в странные, рискованные проекты, о которых они ничего не знают, и которые необходимы для нашего мира. Но этой деятельности легко превратиться в фарс.

Хайман Мински, предложивший теорию кризиса 2008 года за 22 года до самого этого события, описывает этот процесс через три этапа. Говоря об инвестиции как о кредите, инвестор ожидает от заёмщика как регулярной выплаты процентов, так и, потихоньку, основного долга (на деле, мы должны говорить о вероятностных рассуждениях здесь: не каждый рискованный заемщик отдаст долг; только какая-то доля инвестиций будет оправдана, но она должна принести столько высокие доходы, что в среднем инвестор получит свой процент). На этапе хеджирования инвесторы идут на невысокие риски, выдавая только те кредиты, по поводу которых они уверены в возможности заемщиков отдавать и проценты, и сам долг. Это настолько стабильный этап, что инвесторы становятся увереннее, и начинают выдавать кредиты, оцененные лишь с точки зрения выплаты процентов; пока заемщики не могут отдавать основную сумму долга, инвесторы уже довольны, что она хотя бы не растёт – это этап спекуляции. На третьем этапе, этапе финансовой пирамиды, инвесторы дают кредиты тем, кто едва ли сможет позволить себе даже проценты; их надежды не в том, чтобы получить что-то от заёмщиков, но в возможности перепродать сам кредит в будущем дороже, пока рынок растёт.

Третий этап кажется абсолютно неадекватным; для Мински, он создан чрезмерной уверенностью и жадностью, созданной стабильными временами роста. "Стабильность порождает нестабильность", он пишет, предвосхищая мем. Загадка этапа финансовой пирамиды – который мы наблюдаем прямо сейчас на рынках, связанных с ИИ – в его странной продолжительности. Все говорят, что рынок перегрет, но никто из него не выходит первым, почти никто не ставит против рынка, повторяя апокриф Кейнса, что "рынки могут остаться нерациональными дольше, чем ты можешь остаться платежеспособным". Перегретый рынок, вопреки логике, продолжает расти, и, с точки зрения нашего жадного капиталиста, не участвовать в этом росте наивно и безумно. Это состояние метастабильно, и заканчивается моментом Мински, резким крахом, который практически гарантирован, но никто не может предсказать, когда он случится. (Забавляет фигура героического пророка этого момента, вроде Брэда Питта в Игре на понижение, заработавшего на этом предсказании и измученного моральной стороной этой победы. При метастабильном рынке предсказание точного момента его краха это ровно такой же гемблинг, только еще менее информированный).

Стоит заметить, споря с Мински, что различие между финансовой пирамидой и адекватной инвестицией не настолько очевидно; в общем-то в неочевидности этого различия и есть, на мой взгляд, причина этих пузырей – мы знаем, что мы не знаем, насколько на самом деле активы переоценены. Финансовая пирамида строится на том, что грядущие инвесторы отдадут долги старых; но разве любая ставка на тотальный общественный рост — PAYG пенсии, недвижимость, глобальные ETF — не имеет ту же самую форму (особенно, насколько она может быть различима ex ante)? Более того – невозможность однозначно провести границу риска, утяжеленная сложностью и непрозрачностью самих финансовых инструментов, служит в том числе и возможностью заставить инвесторов пойти на риски, зачастую социально необходимые (например, финансировать создание вакцин), и распределить эти риски, тем самым минимизируя их негативный эффект на любого конкретного инвестора. Та инерция риска, что создаёт пузырь, всё-таки создаёт своего рода положительные, шумпетерианские эффекты – когда этот лопнет, миру могут достаться дешевые и опенсорсные ИИ модели, освобожденные компьютерные мощности. Конечно, непосредственные социальные последствия рыночного краха ужасны и не идут ни в какое сравнение с этой пользой, но вопрос может тут стоять и о том, как лучше лопать пузыри, а не как их избегать. Одним из последствий биржевого падения было разорение Кожева, из-за которого, чтобы заработать на жизнь, он стал читать свой знаменитый курс о Гегеле, судьбоносно посещаемый Лаканом.

Итак, в погоне за ростом капитал ищет и создает риск. Но зачем ему этот бурный рост? И не связано ли, в форме заклятого круга, само требование неограниченного роста с ощущением риска нашего существования?

#DT 11. Гемблинг 3: А если альтернативы нет? Типичная стратегия разумного поведения в присутствии риска предлагает ставить много маленьких ставок, не давая себе нигде проиграть слишком много, осторожностью нейтрализуя, медленно наращивать свой капитальчик. Математически это работает только в том случае, если каждая ставка, статистически, в среднем выигрышная. Это стандартный сеттинг для DT: если ставки с негативным матожиданием, DT, как правило, будут их избегать. Что исключает реальные ситуации – ни с какой точки зрения ни активная торговля на бирже, ни живопись, ни телеграм-блоггинг не выигрывают “в среднем”, ни финансово, ни с точки зрения символического капитала, ни даже с точки зрения творческого вопроса: получится хоть что-то, или ничего? Любое человеческое приключение заведомо обречено: так мы можем представить утилитаристский экзистенциализм, который бы предлагал, что стохастический оптимизм наивен, явно хороших решений нет, и всё же их анализ может быть полезен.

Книга математиков Дубинса и Сэвиджа “How to Gamble If You Must” рассматривает именно этот вопрос: какова должна быть стратегия, если мы в проигрышной ситуации, если любое наше действие в среднем приносит нам убытки – и всё же мы не можем сидеть сложа руки, поскольку даже маловероятная победа для нас гораздо нужнее сохранения статуса кво? И ответ полностью противоположен умному гемблингу: оптимальная стратегия это смелый гемблинг, максимальные ставки – либо мы ставим всё, что у нас есть, либо столько, сколько нужно, чтобы получить всё, что нам нужно, за один раз. Никакого распыления надежд на маленькие ставки; рискованные броски костей, столько сколько понадобится, и каждый – всё или ничего.

Большое, рискованное жизненное решение никогда не заканчивается своим принятием; оно создаёт пространство для действий, повышающих его ценность. Тот, кто годами настаивает на одном своем решении, со стороны кажется “бросающим хорошие деньги (время, силы) за плохими”. Но это упрямство и может позволить появиться возможностям прожить жизнь, как хочется, как убедительно доказывал Кьеркегор, говоря о повторении. В казино новая ставка не сделает предыдущую лучше; в жизни новые действия, согласные старому решению, меняют ценность первоначального выбора. Риск при выборе, например, профессии подсчитывается среди всех, кто просто попробовал; тот же, кто всерьез поставил на этот выбор свою жизнь, не прекращает искать способы построить ее в согласии с этим выбором.

Поэтому, мне кажется, свое жилье, а не рыночная спекуляция, это более благородный способ сберегать деньги, ведь дело здесь не в ставке на будущей цене, но и во внутреннем и внешнем пространстве, которое мы можем обогащать своими действиями.
Ниже обоих — спекуляция на недвижимости и доходы рантье: их капитал растёт за счёт ценности среды, которую производят другие — город, его жители, и конкретно их жильцы, за счет которых они живут.

Экономия принятия решений: если каждый новый выбор снова выставляет нас против неблагоприятных шансов, стоит принимать решений поменьше. Одно большое решение может обернуться чем угодно; множество маленьких сходятся к среднему, к медленной и гарантированной потере. Возможно, в этом различии между умным и смелым гемблингом и состоит очарование жанра roguelike. Возможность восстановить сохранение превращает любое решение в дешевое и повторяемое; в рогаликах, что от нее отказываются, мы идем маленьким ва-банк, и пожинаем его плоды: выигрывать можно и нужно редко и смело. Дешёвые и частые победы это самообман.

Поэтому моя критика современной тяги к гемблингу не в том, что риск это плохо (он есть всегда), и не в том, что разного рода казино несут отрицательное матожидание (всё в жизни таково), но в том, что это подход трусливого, дешевого риска, отказ от больших шансов, попытка использовать стратегию, которая работает только там, где рутинное повторение уже заведомо в вашу пользу — переносить её на те области жизни, где этого преимущества больше нет. Да, я критикую гемблеров за то, что рискуют они слишком мало. Возможно, это признак нашей усталости от риска, попытки отдать ему дань, ритуализировать его присутствие. Поэтому вопрос — почему альтернативы нет? В какой мере необходимость нести личный риск – фундаментальное свойство жизни, и в какой — свойство нашего сегодняшнего мира?

#DT 10. Гемблинг 2: Автор как игрок / “Умный” гемблинг? Грэм Харман в “ИИ и будущем письма” планирует с помощью ChatGPT написать “100 черновых рукописей на [любую тему] в стиле моих предыдущих книг”, среди которых он потом выберет лучшие, превратившись из “творца” в “ценителя”. (Странно, что он не предлагает очевидный следующий шаг: опубликовать их все, и статистически с помощью подсчёта лайков дать читателям, преданным его персональному бренду, выбрать лучшие из них. Он описывает логику бренда, а не авторства – поэтому его размышления про “стиль”, понятие, на котором держится вся его идея, тоже остаются на уровне SMM-специалиста). Грэм предлагает идею автора-как-венчурного-инвестора; сто текстов – сто ставок, хоть с одной, наверное, повезёт.

Любое письмо – это авантюра, ну кроме того, что совсем отказывается поставить авторский символический капитал под вопрос, рискнуть им. Потратить – как говорит Харман – “три года в библиотеке и шесть месяцев в мучениях” – ставка безрассудная. Вместо одной дорогой ставки он предлагает сделать сто дешёвых. Это различие фундаментальное – никто не может избежать в своей жизни риска; разница может быть между большой авантюрой, gamble длиною в жизнь – и “умными” попытками этого риска избежать с помощью миллиона маленьких ставок. Gamble, одной дорогой ставке, мы противопоставим gambling, их дешёвое повторение.

В моих примерах в первом абзаце прошлого поста я приводил примеры не очень умных ставок. Но разве не существуют профессионалы этого дела – хедж фонды, профессионалы покера, счетчики карт, “суперпредсказатели”, которые из 35 долларов делают миллион? Вот они, умные гемблеры – суть их подхода в попытке обуздать риск, стерев его в лишенную последствий труху. Превращение маленького преимущества в случайном процессе с огромным разбросом в постоянный заработок – интереснейшая математическая задача, решение которой сулит алхимическую мечту: создание из ничто капитала, часто финансового, у харманов – символического.

Здесь из формулы Деньги - Деньги’ исчезает Товар, эта претензия капитала на вклад в реальную жизнь человечества, исчезает совсем или сводится к призрачной форме слопа, с нулевыми маржинальными ценой и потребительной стоимостью; вместе с ним исчезает и активная связь с реальностью. Заработать деньги, не рискуя не только своим капиталом, но не рискуя никак поменять мир – вот задача умного гемблера. Этот процесс не может иметь эффекта в мире, иначе мир стал бы ему сопротивляться, требуя изменения и адаптации, возвращая риск, уменьшая преимущество, превращая вопрос предсказания в вопрос контроля – пугающий вопрос о власти, а значит о борьбе, для безобидного фантазёра-алхимика. Счетчик карт в казино надеется, что казино не заметит его, не адаптируется и не забанит его; трейдер знает, что заработок закончится, когда его действия начнут менять рынок. Харман воображает письмо без “трёх лет в библиотеке”, без риска состариться, поменяться, поменять свой “стиль”; книга меняет сперва автора, а потом читателя – Харману плевать на второй риск, и он избегает первый.

Всегда найдется удачливый гемблер, сосед, заработавший на квартиру криптовалютой; у книги Хармана-GPT найдутся читатели; у Jane Street будет очередной год сверхдоходов. Вопрос не в том, что это невозможно, но в том, что это никогда не алхимия. Легко показать экономически, что максимальный возможный стабильный заработок при “умном” гемблинге примерно совпадает с зарплатой, которую гемблер того же уровня навыков и смекалки мог бы получать на беловоротничковой работе, с меньшим риском; если он заработал гораздо больше, то речь идёт либо о рыночной власти, о какой-то ренте, о неповторимой новизне, или же просто-напросто об удаче – которая указывает на то, что риск был куда выше, чем “умный гемблинг” мог бы себе позволить. Умного гемблинга не существует.

#DT 9. Гемблинг 1: Фондовый Рынок. Мы живем в эпоху гемблинга. Еще один симптом проблем с “теорией принятия решений” – в популярности этого паразита разума, принимающего формы как обычных букмекеров, так и азартной игры на бирже в духе WallStreetBets или на рынках предсказаний (которые придают гемблингу профессиональный флёр), так и разного рода лутбоксов, зачастую платных, но зачастую чисто игровых, делающих гемблинг сутью даже безденежного досуга. Всем известно, что деньги эти занятия не приносят – не в том количестве, чтобы оправдать риск и потери. И всё же гемблят все (например, больше половины американцев). Деньги, что остаются после необходимых трат, или случайные какие-то получки тратятся на гемблинг; один мой знакомый предложил, что многие связанные с СВО выплаты отправляются сразу на Фонбет.

Гемблинг – древнейший вид досуга, но особенность его современного статуса, на мой взгляд, связана с двумя феноменами: культурно (идеологически), гемблинг стал легитимным и даже преимущественным способом сбережений; материально, страсть к гемблингу указывает на особую, согласно DT, функцию полезности. Идеологическая сторона этого вопроса понятнее всего как присущая американскому среднему классу; за ним повторяет весь мир, инвестируя как американцы и в американцев.

Американский средний класс слышит десятилетиями, что сбережения нужно вкладывать в рынок акций, и акции должны расти в определенном темпе. “Об акциях [предлагали] думать как об активе, который всегда будет доходнее, чем другие классы активов, хотя и заставит терпеть бóльшие колебания в цене. Разделите, мол, свои средства между этим «рискованным» классом активов и другими активами — [банковскими вкладами], облигациями гос. займа — чтобы стабилизировать риск и создать запас прочности на случай, если вам понадобятся [деньги] во время неблагоприятных колебаний” – Стив Волдман, программист с блогом про экономику (отличнейшим), критически анализирует достаточно самонадеянный и распространенный совет, который, например, повторял Нассим Талеб. Этот совет превратился в стандартный подход к сбережениям огромной категории людей; последние следы образовательного или имущественного ценза ушли с появлением ритейл-бирж типа Robinhood, позволяющих торговать акциями – и даже производными, инструментами для производства дополнительного риска на ровном месте – на мобильном телефоне, сидя в кабаке.

Вот он, человеческий эффект распространения советов брать на себя серьезные и плохо предсказуемые риски: буквальный гемблинг стал после 2008 маркером разумного и дальновидного буржуазного поведения, и после этого, чтобы избежать политической катастрофы – по Волдману – задачей политиков (и гендиректоров компаний) становится сделать всё возможное, чтобы средний “дальновидный” азартный игрок не проигрался в конец, чтобы рискованный вид инвестиций превратился в предсказуемый и доходный, вопреки любой реальности. Фондовый рынок, от которого требуют очень конкретного поведения, теряет способность отражать адекватную даже чисто экономической ситуации реальность. ФРС, созданная ради “максимальной занятости при низкой инфляции”, получает теперь мандат “сделай гемблинг на бирже доходным”; гендиректора компаний так же вынуждены фокусироваться на один квартал вперед, чтобы не вызвать у игроков панику.

Структурно это повторяет итерацию предыдущего инвестиционного обещания – либерально-демократический социальный контракт конца 20 века, направленный на бумеров, звучал так: пока ты работаешь, ты купишь жильё; оно будет расти в цене; благодаря этой инвестиции, на пенсии ты будешь в комфорте. Вот он – бумерский вариант слогана “Stocks only go up” – “Квартиры только дорожают”: он гарантирован не экономическими законами, но политической волей, зачастую, как в современной Европе, совершенно абсурдной, сопротивляющейся строительству даже абсолютно необходимого минимума жилья. Недвижимость это низколиквидный (не всегда легко продать) и подверженный множеству рисков вид имущества; рискованная азартная игра, в которой государство обещает тебе победу. Но как форма поведения вклад в свое жилище, пусть сам неосознаваемо рискованный, не создает из гемблинга стиля жизни – в отличие от нового стиля сбережений, игры на бирже. Стоит остановиться на сходстве и различии этих двух видов ставок.

#DT 8. Ценовая дискриминация ставит нас в ситуацию, когда Другой знает, какой выбор мы сделаем, и это действительно оптимальный выбор для нас самих. “Это для твоего же блага”, говорит Другой, отбирая у нас всё, что мы в принципе готовы отдать. Это тонкая ситуация для экономики, поскольку ее невозможно критиковать, оставаясь внутри простейшего идеала добровольного выбора: человеку предложили сделку, которая, согласно его же вкусам, лучше его прочих альтернатив, и он рационально её принял. Так понятая свобода здесь не нарушается – напротив, эксплуатируется. DT не интересует вопрос о том, что “прочие альтернативы” уничтожаются и контролируются той же стороной. Но экономика вовсе не слепа к вреду и сложности ЦД, и ищет способы для ее адекватной критики. Вопрос о ценовой дискриминации, о том, как экономически описывать ее вред и как его ограничивать, это центральный вопрос многих современных законодательных обсуждений и судебных процессов.

Выражаясь, как гейм-дизайнеры – если с точки зрения игры оптимальное действие известно заранее, в чем именно заключается свобода игрока? Мой теоретический интерес к ЦД в том, что эта проблема ведет к критике рационалистической теории выбора, выражаемой эмпирически, экономически и математически, а не просто отсылая к непознаваемой тьме человеческой субъективности. ЦД показывает, как рациональный выбор может отлично работать внутри системы, лишающей выбирающего автономии, запаса и власти над условиями выбора, является локусом симптомов недостаточности этой идеологии.

Отсутствие выбора. Вопрос о ЦД выражает противоречие между способностью предсказать поведение и человеческой волей, и объясняет эту абсурдную и типичную современную ситуацию, когда в окружении благ и повышенного уровня жизни мы чувствуем себя выжатыми, как лимон – вынужденными постоянно адресовать не буржуазную тоску и скуку сытой жизни, которых боялись десятилетия назад, а вполне материальную вечную нехватку, производимую на самой границе нашей свободы выбора. ЦД искусственно производит ситуацию, когда каждое решение, что мы принимаем, находится на самой границе; мы лишены какого-либо “буфера”, и любая неоптимальность ведет к резкому ограничению наших жизненных возможностей.

Распределительная двусмысленность. Оплата американских университетов, механизм финансовой помощи, зависящий от ваших доходов, выглядит как благотворительность. Американский колледж стоит 50 тысяч долларов за год обучения; при поступлении вы заполняете форму, где рассказываете, сколько зарабатывают ваши мама и папа, и вам делают скидку – другими словами, подгоняют цену к вашему предсказанному максимуму. Одна цена была бы слишком высокой для бедных и, возможно, ниже максимума обеспеченных семей; система помощи позволяет одновременно привлечь первых и извлечь больше из вторых. В результате ЦД получает оправдание – как механизм перераспределения в пользу бедных. Стоит быть внимательным к ЦД как к форме перераспределения – даже если направление распределения отвечает нашим вкусам, оно может уничтожать реальную возможность выбора для всех сторон.

Платформенная власть и алгоритмическая координация. Платформа — Амазон, Спотифай или Яндекс.Такси, обобщает ЦД на обе стороны рынка: стремится назначить каждому покупателю максимально приемлемую цену, каждому поставщику — минимально приемлемое вознаграждение, а разницу забрать себе. Коммерческое машинное обучение, как и корпоративная “слежка”, во многом занимается именно этим: оно пытается узнать не нашу сокровенную сущность, а границу отказа, консента — сколько мы готовы заплатить, сколько ждать, сколько рекламы терпеть, насколько плохое отношение принять, прежде чем уйдем. Цена здесь может быть не только денежной: ею становится внимание, время, усилия, стресс, дурные эмоции.

Алгоритмы позволяют не только точнее находить эту границу для каждого человека, но и координировать вокруг нее множество продавцов. Прямой сговор для этого не всегда необходим: общие данные, модели и прогнозы позволяют скоординировать действия; многообразие же товарной формы дает возможность произвести и продать различие под любой остаток в кошельке. Так, рынок аренды создает ЦД и без центрального алгоритма: лендлордам не нужно сговариваться, чтобы рынок научился брать с каждого максимально представимую для того ренту. Рынок действует как распределенный интеллект — экспериментально обнаруживая пределы участников, создавая информацию не только об оптимальном распределении, но и о максимальной эксплуатации. ЦД оказывается моделью не только власти знающего продавца над отдельным покупателем, но и способности коллективно узнавать и использовать границы человеческого консента.

#DT 7. Вот картинка из учебника, показывающая рынок в равновесии. Линия спроса: сколько покупателей готовы купить товар за ту или иную цену. Предложение: сколько продавцов готовы его за ту или иную цену продать. В равновесии, точка их пересечения – цена, при которой количества продавцов и покупателей сравниваются; рынок уравновешиваются, достигнув её. Операция рынка заключается в этом совместном вычислении: какая цена адекватнее всего, при какой цене все, кто мог бы договориться, договорятся?

Две эти линии – теоретической «готовности» акторов что-то сделать – принадлежат «теории принятия решений», произведены именно ею, поскольку мы никогда не наблюдаем, на самом деле, эту готовность в ее числовом выражении. Как я писал на прошлой неделе, способность предсказать именно это – чью-то максимальную/минимальную цену – это культурный кошмар; это крайне ценная экономическая информация для тех, кто хочет на вас заработать. Мы знаем о существовании этих линий на графике потому, что люди (и фирмы) участвуют в рынках (мы наблюдаем непосредственно точку пересечения, цену и количество сделок), остальное мы можем вообразить, прикинуть согласно нами понимаемой логике решений, и в редких случаях оценить, пользуясь данными о похожих ситуациях – другой год, другой город, другой бренд.

Два закрашенных треугольника – «излишки» – выражают ту пользу, что, согласно этой модели, приносит рынок. Логика их проста: если, чисто теоретически, вы готовы снимать квартиру за 1500 евро, а нашли за 1300, вы «заработали» 200 условных единиц в месяц, которые остаются чисто воображаемыми, гипотетическими – если только вы не подписываетесь на собственную реальность построений «теории принятия решений». Иногда эти построения действительно обладают бухгалтерской реальностью: если то, что вы купили или продали, вы полностью используете для продолжения экономической деятельности (скажем, вы что-то купили, оплатили чей-то труд для улучшений, и после этого продали), то ваш «избыток» можно подсчитать как прибыль. Но это сугубо промежуточный случай, всегда отстоящий как минимум на шаг от внеэкономических эффектов, и слишком идеализированный даже для самых простых и механических B2B рынков.

Этот двусоставный треугольник «излишков» – пространство консента, его экономической формы. В рамках этого треугольника все сделки совершаются добровольно, по определению – акторы, подсчитанные слева от равновесной цены, это акторы, которые были готовы пойти на эту сделку. Необходимость и предсказуемость этих сделок вступает в напряжение с той свободой, что этот консент призван символизировать, и его двусмысленность будет лейтмотивом этого цикла. Как пространство свободы, этот треугольник оказывается местом ожесточенной борьбы, легитимированной рыночным либерализмом, с точки зрения которого именно это пространство может доставаться кому угодно, кто сможет его отобрать. На схеме излишки оптимистично поделены между двумя сторонами участников рынка, на деле же платформы ищут способы отобрать эти излишки полностью – о чем поговорим в следующий раз.

#DT 6. Важная фантазия современности – о ком-то, кто слишком хорошо нас знает, кто может предсказать наши действия и понять наши желания. Этим идеально понимающим Другим может быть услужливый чатбот, наделенный искусственным интеллектом; государственная высокотехнологичная слежка; очень близкий нам по духу инфлюенсер или рекомендующий таких “алгоритм”; психиатрическая машина, придумывающая нам идеально подходящий диагноз; системы прослушки и анализа поведения, которые предлагают нам подходящую рекламу; “рынок предсказаний”, который поможет спланировать общественное материальное счастье; всезнающая медицина, что продлит нашу жизнь разного рода добавками… Эта фантазия оказывается и мечтой, и кошмаром: мечтой о заботе от “машины любящей благодати”, кошмаром об утере свободы и всякой возможности выбора, которую сулит столкновение с всезнающим существом.

Говорить в этих ситуациях исключительно о знании – уже большая ошибка, ужеформа подчинения. Реальные примеры слишком хорошо знающего нас Другого не столько сильны в предсказании, сколько модифицируют наше поведение. Алгоритмы Тиктока или Ютуба не просто находят для нас идеальные видео, но тренируют нас интересоваться ими, утомляет и фрустрирует ровно в той пропорции, чтобы силы оставались лишь на такие формы развлечения. Они направляют нас вглубь странных интересов и маргинальных политических взглядов не потому, что эти интересы и взгляды нам всегда уже были присущи, но потому, что наше поведение оказывается, в рамках этой формы, очень податливым, потому, что мы позволяем кормить нас слопом и просим еще. “Всезнающий” Другой это форма власти, а не знания; когда мы говорим, что речь лишь о знании, мы подчиняемся той фундаментальной манипуляции, что настаивает, что это внешнее влияние – лишь следствие наших собственных, внутренних тенденций.

Как нам концептуализировать это знание о поведении? Экономика предлагает очень простую модель: самое важное, с экономической точки зрения, что можно знать о каждом из нас, это максимальная цена, которую мы можем заплатить за те или иные товары или услуги. Дебри человеческой субъективности, какими бы сложными они не были, сводятся в рамках экономического взаимодействия к этому, одному единственному числу. Так, через цену того или иного набора товаров, услуг, эффектов и определяется центральная идея функции полезности: чем больше мы за что-то готовы заплатить, тем более оно для нас ценно, тем чаще мы будем это выбирать. Бесконечное разнообразие человеческого поведения как такового едва ли вписывается в эту функцию (что будет темой отдельного разговора, поскольку в этом один из важнейших вопросов современности), но экономическому Другому интересно только это.

Подобрать для каждого максимальную цену, которую тот готов заплатить, и потребовать именно ее – звучит как дьявольское поведение из сказок (я не смог вспомнить нормального примера, но Аленький Цветочек, версии Фауста, даже Золотую Рыбку (где старуха методом проб и ошибок ищет рыбкину максимальную цену) можно интерпретировать как-то так). Кошмар “экономического” всезнающего Другого вовсе не в том, что он знает какую-то случайную деталь нашего прошлого, а в том, что его требование одновременно чрезмерно, нечестно, и при этом невозможно отвергнуть, поскольку оно действительно адекватно тому, что мы готовы дать. В экономике такое всезнание называется совершенная ценовая дискриминация. (Слово “дискриминация” тут в значении “способность различать, видеть реальное различие”, а не в более современном противоположном смысле, когда дискриминация становится тенденцией настаивать на ложном или нерелевантном различии, как на фундаментальном). Эта дискриминация – способность находить максимальную индивидуальную цену. Модели такой дискриминации показывают, что такой продавец сможет оставить довольным каждого покупателя – и удовлетворить больше людей, чем в противоположном случае одной цены для всех. Примеры СЦД (такие, как, например, идеально дискриминирующая финансовая помощь для оплаты образования) зачастую, на первый взгляд, для общества только хороши. В чём же, по мнению экономики, здесь проблема?

#DT 5. Рынок это социальный механизм, благодаря которому принятые независимо, согласно собственным интересам и соображениям решения людей автоматически синхронизируются, как правило, при помощи сигнала — цены. Это механизм децентрализованного, общественного принятия решений, как предлагает Фридрих Хайек (мы еще обсудим эту противоречивую фигуру подробнее). Это не единственный механизм для распределенных решений, но нельзя отказать рынкам в изяществе и достаточно широкой применимости. Мы часто недовольны ими, поскольку мы недовольны распределением власти, к которому ведет их применение. Можно ли отделить механизм от этих последствий? Может ли рынок быть применен для достижения важных общественных и коллективных целей, а не для поддержания абсурдной власти?

Философия, интересующаяся рынками, приветствует их власть – как капитализм Ника Ланда, его нечеловеческий вычислительный Господин. Откуда эта человеческая страсть – превращать любой инженерный успех в этический и концептуальный фундаментализм? Может ли рынок быть инструментом, а не Господином?

Рынок организует общественные силы, поощряя определенный подход к жизни, определенную нормативность – которая получает наименование “рациональности”. Разумность, на которое это слово намекает, требовала бы слепоты ко всему, что не выражено специфическим для рынка образом. Шахматы тоже требуют умения сосредотачиваться, редуцировать все богатые возможности тела до движений несколькими десятками фигур. Но никто не смешивает умение играть в шахматы и умение жить (как говорил один шахматист - “Умение играть в шахматы - признак джентльмена, умение хорошо играть в шахматы - признак потраченной жизни”).

Чтобы отделить экономику от “рациональности”, необходимо понять, зачем она там нужна, не сломается ли наука без нее? На первый взгляд идея “рациональности” нужна, чтобы человеческое поведение внутри механизма функционировало как надо. Какой же это может быть “механизм”, если каждая шестерня обладает свободой воли, может сделать что-то странное? Однако никакой проблемы в этом вообще бы не было. Веди себя странно на рынке сколько хочешь, он не развалится. Экономические модели достаточно устойчивы по-отношению к иррациональному поведению, и могут его легко моделировать. В рамках рынка не так уж важно, насколько сложным будет ваше поведение: все, что интересует экономиста, это что вы купите что-то слишком дорого, или дёшево отдадите.

“Рациональность” попадает в предпосылки возможности тех или иных гарантий. Важнейший пример — теоремы о благосостоянии, предлагающие, что рынок приводит к “оптимальному” распределению благ при достаточно широких предпосылках. Это крайне важная теория, ядро рыночной идеологии. Она открывает вопрос о распределении и легко отказывается от него, консервативно останавливаясь на оптимальности Парето. Рациональность играет в этой теории двусмысленную роль. Как предпосылка она слишком сильна, теоремы доказуемы и с более легкими ограничениями поведения. Но в итоге рациональность оборачивается требованием согласиться с получившимся распределением. Рациональность оказывается набором сохраняющих распределение рыночной власти стратегий, но ничего в экономической теории, что утверждало бы, что этих стратегий необходимо придерживаться, просто-напросто нет. (С графиками и подробнее про эти теоремы будет позже).

Это не значит, что рациональность экономику не должна интересовать: напротив. С точки зрения конкретной модели, рациональный человек — тот, кто будет пытаться извлечь максимальную выгоду. И именно он может быть для рынка максимально опасен, может разрушить всю созданную рынком ценность.

В прошлый раз мы обсуждали, что правила пишут против излишеств победителей. Экономическую рациональность тоже надо понимать адверсариально. Экономика может защищать общество от эгоизма рациональных людей, коллективные решения — от излишеств индивидуальной рациональности. Экономические модели могут предлагать такие рынки и механизмы их контроля или коррекции, что защитят мир не от случайной глупости и странности людей, но от целенаправленной, “рациональной” алчности.

У Вани Неткачева будет онлайн-лаборатория в "Гараже", а я буду там приглашенный гость, буду в один из дней рассказывать и, может быть, даже что-то показывать.

#DT 4. Почему, говоря о правилах игры, нужно в первую очередь анализировать победителей? Обратная этому либеральная слепота – всё было сделано “по правилам”, а значит, не поддается критике или коррекции – приводит к достаточно абсурдным ситуациям, одной из которых, например, является существование на этой планете миллиардеров. Смысл любых правил не только и не столько в том, чтобы проводить границу между внутренним и внешним (“не шахматы”), но и в том, чтобы корректировать ситуации, которые изнутри разрушают сам смысл занятия или сообщества.

Критика победителей не всегда возможна a priori, по заранее данным договоренностям. Вы судите соревнование, и кто-то побеждает. Есть приблизительно три возможных решения, выбор, который перед вами стоит:

• Принять, что победа была достигнута абсолютно адекватно спорту
• Произвести расследование и найти, что победа не была достигнута честно, согласно определенным образом понятым заранее известным правилам
• Принять победу в этот раз, но изменить правила, чтобы вновь ее тем же образом достигнуть было невозможно

Третий вариант всегда приводит к развитию правил, является для этого развития главным мотором. Если спорт поддерживает достаточно открытый набор действий (как в Формуле 1, где есть много способов собирать машину), то все принимают, что задача соревнующихся – находить новые и новые в них лазейки, а задача судей – эти лазейки быстро прикрывать, процесс, который в большинстве случаев принимается всеми, как законный и справедливый.

Этот подход, назовем его “адверсариальный”, предлагает, что у развития правил, таким образом, нет другого творческого источника, кроме как направленного против тех, кто побеждает (фактически или хотя бы гипотетически). После того, как сформировался какой-то набор достаточно случайных для игры условностей (как ходят слоны или как выглядят трассы), большая часть последующих изменений происходит для баланса. Граница с чисто внешним, граница нерелевантного для игры – случайна и не так уж важна; главное, что она существует, и ее детали настолько редко влияют на что-либо, что мы вполне можем согласиться с консервативной идеей, что менять их почти не нужно. Если мы поменяем, как ходят конь или слон, это, конечно, заставит всех переучиваться, но суть шахмат затронет едва ли. Смысл той или иной соревновательной игры заключается, материально, не в конкретном моменте правил, не в исторической случайности их деталей, а в их развитии как поддерживающих соревновательность.

Если не учитывать необходимость соревновательности (которую мы кибернетически сможем понять – когда доберемся – как необходимость отрицательной обратной связи, как исключение сингулярностей), правила лишаются этого смысла и представляются, как что-то данное снаружи без возможности их обосновать. И это касается и такого крайне важного понятия для экономики и в принципе для современной идеологии, как “рациональное поведение”; если не понимать адверсариальную сторону экономического смысла этого понятия, оно обернется контингентным набором внешних требований к поведению, которые не просто зачастую невозможны, неправдоподобны или абсурдны, но и оборачиваются разрушительным поведением тех, кто понимает их механику, но не понимает их смысл.

#DT 3. В “Людях в Черном” Джей в качестве интервью на работу застрелил не монстров, а картонную фигуру восьмилетней девочки с учебником квантовой физики. Наша гипотетическая ситуация – про спорт. Представьте себе, что вас пригласили судить турнир по шахматам. Какая из форм человеческого поведения вас будет волновать больше всего? Кто создаст максимум концептуальных проблем? На кого придется нацелить наши – не пистолеты, но судейские бинокли?

1. Люди, которые играют в шахматы очень хорошо (много побеждают)
2. Те, кто играет по правилам, но плохо и глупо
3. Те, кто нарушает правила, по ошибке или из дурного умысла, но действует в рамках общей формы шахматной игры. То есть двигает фигурами по доске, но неправильно: конём по прямой, королем через всю доску, трогает и не ходит, играет фигурами соперника, смотрит в телефон.
4. Те, кто вообще не играет в шахматы, а делает что-то совсем другое: швыряется фигурами или уезжает на рыбалку пить пиво.

Граница между 2 и 3 – номинальные правила шахматной игры – кажется центральной. Но это самая простая и технически очевидная граница. Не нужно звать судью, чтобы разобраться, ходит конь прямо или по диагонали. В наше время легко сделать апп, который просто-напросто не позволит, на уровне интерфейса, совершить нарушение. Тех, кто их нарушает, легко подкорректировать, обучить, прогнать; если система наказаний является частью спорта (как в футболе или формуле 1), то даже при судейской субъективности их применения, они остаются еще одной достаточно технической частью игры.

Главная проблема этой границы в том, что она проведена дальше всего от своих собственных причин. Фокус на ней часто связан с иллюзией, что правила игры незыблемы и сами себя обосновывают, поскольку чистые размышления о правилах редко связаны с их развитием. Сравним правила любого реального спорта с формальной теорией. Для последней – противоречия вредны и требуют исправлений, а полнота (или невозможность оной) – важное и интересное свойство. Но для списка правил спорта ни то, ни то не является проблемой. Вычурные ситуации судей интересуют только в случае создания конкретного преимущества. Диванные “юристы” могут придумывать интересные ситуации – а что, если ан пассан происходит в офсайде? – но такого рода размышления не заставят переписывать книгу правил.

Граница между 3 и 4 – более тонкая и интересная. Это граница легитимности спортивного судейства. Все движения фигур на доске входят в их сферу внимания, в том числе неправильные. Правило вроде “Тронул – ходи” вводят в нее только некую часть тактильных возможностей игроков: легитимность прикосновения к фигурам интересует судей, но про прикосновение игрока к собственному носу мнение у судьи не спрашивается. Иногда можно различать язык всех возможных спортивных действий, и язык самого спорта – в шахматах эта граница достаточно очевидна (это различие часто скорее вредно – типичная ошибка программиста или любого другого бюрократа – в кодировании исключительно легальных ситуаций, а не всех физически возможных). Чаще, спортивные действия и происшествия невозможно отделить от самого спорта – в Формуле 1, нарушения приводят к пенальти, происшествия могут закончить гонку, и стратегические решения игроков не могут быть отделены от этого более богатого спектра возможностей.

Граница между 2 и 3 (между легальным и выразимым) проведена достаточно точно в любой момент, но граница между 3 и 4 – это граница между выразимым и всем остальным. Она всегда содержит элемент радикальной незаконченности. Что-то всегда может случиться, что потребует ее перепровести, здесь и сейчас. Но надо заметить, что судей это тоже интересует не так уж сильно. Для спортивного судьи невыразимое спортивное внешнее как будто бы не должно существовать. С его точки зрения вопрос о том, чтобы оно не вмешивалось в процесс, стоит перед организаторами и охранниками. Но в какой-то степени часть ответственности все же лежит на нем: как судить так, чтобы несогласные фанаты не разгромили стадион, или недовольные соперники не подали в реальный суд?

Главная концептуальная проблема для судей – это проблема победителей…

#DT 2.5. Другая произвольно проведенная граница, произвольность которой я постараюсь продемонстрировать, заключается в самой границе системы (system boundary). Разного рода физические сигналы превращаются в какой-то момент в "информацию", проходя некую логическую границу; эта информация приводит к тому или иному решению, которое превращается вновь в физическое воздействие, проходя через нее вновь, обратно. Но эта грань не существует объективно, она проводится наблюдателем за этим процессом, чтобы иметь возможность разделять эти две стороны: физическую и логическую. То, где она проводится, имеет принципиальное значение для того, какой смысл имеют решения, какой свободой обладает их принимающий. (Как в этих достаточно наивных слухах о президенте РФ, которому кормят исключительно хорошие новости). Немало философских ходов построено на конкретном проведении такой границы и утверждении, что таков единственный способ ее проводить (китайская комната Сёрля, или критика кибернетики Рюйера, начинают именно с этого). Несмотря на то, что эту грань невозможно провести как угодно, выбор здесь есть, и философы не правы, когда отказывают нам в нём и выдают свое произвольное решение за очевидное. Даже с точки зрения физики это очень важная, но теоретически не идентифицируемая объективно граница.

Вопрос о границе системы принятия решений включает вопрос об институтах, об их участии в процессе принятия решений. От коммерческих фирм до государственных институтов, от семей до спонтанно организующихся народных масс – информация и решения перестают быть чем-то, что можно понять как проходящее лишь через изолированного человека. Вопрос об институтах мне кажется более серьезной материальной опорой для рассуждения об этой границе, чем вопросы о субъекте, многие рассуждения о котором тоже затрагивают именно этот барьер. Более того – мне кажется, что многие басни о субъекте, которыми нас кормят радикальные философы, могут быть таким образом переинтерпретированы, как предложения об очень конкретной идее о роли институций, об очень конкретной идее о том, как мы должны им – некоторым из них – подчиняться. Поэтому после экономики мы займемся кибернетикой.

#DT 2. “Теория принятия решений”, Decision Theory (отныне здесь – DT), часто описывается как обещающая объяснить, как принимать "правильные" решения (рациональные, корректные, оптимальные). Это уже довольно подозрительно – так определенная теория была бы применимой слишком узко, и смыслом ее существования были бы лишь какие-то очень ограниченные, стерильные ситуации.

Помимо "нормативной" DT, говорят о "дескриптивной": о теориях, рассматривающих, почему люди часто принимают решения, отличающихся от "правильных" (с точки зрения DT). Иногда эти изыскания развивают и обогащают идею о правильности, но как правило, они сводятся к обогащению диагнозов разного рода неправильности (все эти "когнитивные искажения", "biases"), другими словами – к все той же нормативности. (Представьте себе, если бы дескриптивисты в лингвистике говорили бы не о том, как говорят люди, а о том, как они ошибаются).

Такого рода диагнозы вводятся в теорию о решениях как дополнительные шаги алгоритма их принятия – как своего рода эпициклы Птолемея, дополнительные слагаемые, благодаря которым теоретические расчеты движения видимых небесных тел, ошибочно основанные на идее, что те вращаются вокруг земли, могут с помощью арифметических подпорок приближаться к тому, что мы наблюдаем на деле. Ученые, сумевшие найти такой вот эпицикл человеческих решений, сразу начинают писать книгу о нем как о фундаментальной правде о человеке: как Канеман с его быстрым/медленным мышлением. Но это же просто протез для специфической теории. Индустрия книг по саморазвитию (self-help), возможно, и сводится к такого рода эпициклической самодиагностике. Иногда протез, "искажение" неожиданно находит рациональное оправдание (как это произошло с рациональным невежеством и тому подобными эффектами наличия энергозатрат на принятие решений).

Проблема в этом перекосе ("bias") в сторону нормативности – в научной слепоте. Наука о решениях, которая интересуется лишь теми из них, что являются "корректными" с точки зрения этой же самой теории, отказывается не только от большой части реальности, но и от самого вопроса о том, почему, зачем и как она выделяет такой привилегированный их класс.

Поэтому моя позитивная программа в этом цикле – обобщить DT до процессов принятия решений в принципе. Так понятая теория предлагает, что любое решение – корректное, иррациональное, правильное, безумное, противоречивое, невозможное, шизофреническое, смешное, жестокое, абсурдное – абсолютно любой процесс принятия решений, если мы его понимаем или хотя бы можем предсказать, можно выразить в определенной форме (как правило, лишь приблизительно и скорее ретроспективно). Это вопрос о формализме, об эффектах и условиях возможности его применения. Так поставленный вопрос позволит нам рассмотреть, в чем именно роль "правильности" и "рациональности", как их понимают DT, почему это такая важная идея для современности.

Мое предположение в том, что смысл этой нормативности – в производстве консента ("согласия" в его возвышенном смысле жеста легитимации внешнего воздействия). Существует широкий класс ситуаций перераспределения власти, в которых "оптимальное" (согласно DT) решение для большинства сторон – подчиняться и принимать новые, нечестные условия. Тот "пре-коммитмент" к рациональности, на котором настаивает нормативная DT, исключает несогласие или сопротивление и создает видимость консента. Консент в нашей цивилизации выражается часто через момент выбора, что ставит его в центр вопроса о смысле DT.

Эти ситуации перераспределения власти я хочу начать рассматривать с примеров, хорошо изученных экономикой и описываемых такими понятиями, как "рыночная власть", "переговорная сила". Это лишь маленькая часть важных примеров, но ее плюс в том, что они хорошо описываются экономическим языком и тем самым вполне совместимых с чистой DT. Поэтому следующие посты будут об экономике, и будут касаться монополий, больших корпораций, экономических эффектов машинного обучения – а также кибернетических мечтаний о плановой экономике (и моей их критике).

«фарш-теория»

Не так давно в Garage Digital писал про Богну Кониор и ее «теорию темного интернета». Честно говоря, эта книга оставила после себя много фрустрации — поэтому вот небольшой метакомментарий поверх оригинального поста.

Сперва я был заинтригован неожиданным теоретическим ракурсом: Кониор обещает вырастить новую теорию интернета из уфологии. Центральный конфликт книги строится вокруг допущения, которое называют «парадоксом великого молчания вселенной» (также парадокс Ферми). Он звучит так. Чисто технически, во вселенной существуют все предпосылки для зарождения разумной внеземной жизни; но человечество до сих пор не зафиксировало никаких радио-следов, которые могла бы оставить такая цивилизация, и это странно.

Теория темного леса, сформулированная в одном из научно-фантастических романов Лю Цисиня, объясняет этот парадокс так: все молчат, потому что выдавать себя — рискованно. Сигнал, наобум выпущенный в космос, может перехватить враждебно настроенная цивилизация. Собственно, с такой точки зрения, человечество ведет себя крайне неразумно: мы буквально фонтанируем медиа-сигналами, и чем дальше, тем интенсивнее.

Изначально меня привлекла хитрая риторическая структура в книге у Кониор: когда внешнее оказывается внутренним, и наоборот. Та самая внеземная жизнь зародилась прямо у нас под носом: это и есть сама сеть, между узлами которой таятся алгоритмы — и молча наблюдают за нами. Это интересная стартовая точка — благодаря скрытой в ней диалектичности; но на деле она же и конечная, и в этом главная проблема этого текста. Вот (конспективно) его основные слабые места:

/1/ Авторка видит в сети некую тотальность — которой в ней нет и никогда не было. Странно приписывать некую волю сущности, которая состоит из множества проприетарных (и не очень агентов) — каждый из которых обладает определенной степенью автономии и преследует свои цели.

/2/ Тот самый внешний/инопланетный взгляд, которым так интригуют читателя — это просто-напросто скрейпинговые алгоритмы, собирающие наши данные в интернете. Ни больше и ни меньше — здесь весь диалектический импульс книги сходит на нет.

/3/ Не долго думая (как вообще принято в art-adjacent философии и теории), Кониор предлагает программу политического сопротивления алгоритмтическому Другому — на случай, если сеть узнает о нас слишком много и решит поднять бунт. Вместо того, чтобы рассказывать в интернете про свою жизнь, она предлагает пользователям производить намеренно субверсивный контент — чтобы ИИ, который будет на нем учиться, поломался и самооуничтожился.

Но любой человек, который хоть как-то соприкасался с индустрией ИИ, знает о принципе garbage in, garbage out. Мало просто собрать данные для машинного обучения; их нужно хорошенько профильтровать. И инженер из Anthropic с пятизначной з/п найдет способ избавиться от мусора — и в том числе от маленькой артистической субверсии Кониор. А если не он, то другая умная модель, заточенная специально под это; ведь ИИ сейчас буквально обучается во многом под надзором другого ИИ.

Но это мелочи. Главная проблема в том, что непонятны, собственно, политические основания этой субверсии: для чего она нужна и какие цели она преследует? Разумно ли кормить мусором машинки, которые буквально перекраивают материальный мир здесь и сейчас? Каким именно мусором нужно их кормить, и какого именно поведения мы от них хотим? Почему мы вообще пытаемся «поломать» эти машинки, если они — всего лишь статистическое воплощение корпоративного мира, за ними стоящего?

Вопросов много — приглашаю вас продолжить список. Задавать их — весело, и весело потому, что перед нами — один из прототипических примеров того, что я называю фарш-теорией: риторической мимикрии под теорию с очень слабой внутренней структурой (и такой же слабой фактологической базой). Это работает в качестве облака тегов, но попытка соединить их в единое целое вызывает только раздражение.