Manufacturing the future

Проводил эти ресерчи для своих друзей-юристов, отсюда такие резвые подборки, тщ далее поговорим о том, как сетки используют для анализа документов и ситуаций.

Аттали и Томех (2024) предложили модель, в которой каждому делу соответствует [CLS]-вектор из BERT, после чего строится граф Делоне между документами и выполняется классификация через GNN (графовые нейронные сети).
aclanthology.org/2024.nllp-1.15/

Для извлечения информации (участников, фактов, статей закона и т.п.) из юридических текстов также применяют трансформеры и графовые подходы. BERT-файнтьюнинг позволяет решать задачи распознавания именованных сущностей (суды, лица, даты, статьи) и классификации отрывков текста. Например, в тех же работах Paul et al. (2022) и Chalkidis et al. (2020) формулируется задача Legal Statute Identification – определение релевантных статей закона по описанию дела.
arxiv.org/abs/2209.06049

Для построения формализованных знаний используют знаниевые графы. Например, Dhani et al. (2023) строят граф на основе индийских судебных дел, где узлы – это дела, судебные акты, законы, лица и т.д., а ребра – связи между ними (цитирование, участие в деле, ссылка на норму.
arxiv.org/html/2107.04771v2

Для русского языка примечательна работа Блиновой и др. (2022): они разработали гибридную модель оценки сложности юридических текстов на основе сочетания лингвистических признаков и трансформера. Это пример применения трансформеров к анализу русского правового корпуса: их модель включает в себя извлечение лингвистических фич и нейросетевой энкодер. В целом, российские системы чаще строятся на тех же идеях — RuBERT или его аналоги дообучаются на локальных данных для выделения юридической информации.
frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2022.1008530/full

Задача выявления коллизий и противоречий (как формальных, так и семантических) в законах и судебных текстах является сложной и пока мало автоматизированной. Обычно применяются гибридные подходы, сочетающие формальную логику и методы ML.
Например, в области требований к ПО Гартнер и др. формализовали «7 ключевых вопросов» для обнаружения конфликтов (противоположные предписания и т.п.), а Ли с соавторами обучили нейросеть распознавать семантические «антагонизмы» (словесные противоположности), выделяя «эмбеддинги противоречий».
link.springer.com/article/10.1007/s10515-024-00452-x

Отличная подборка статей по теме цифровизации права.

Я чуть-чуть уже писал об этом вот тут, и очень здорово, что уже есть большой пласт исследований на тему -- со временем разберу и напишу обзор на упомянутые тут статьи.

При этом само собой разумеется, что несмотря на провал регуляции относительно других систем мы естественным образом возвращаемся к аргументу Гегеля-Негарестани уже на прикладном уровне: имея мириады сосуществующих с человеком в хоть сколько-нибудь агентном виде компьютерные супер-интеллекты, их конкуренция и кооперация как с людьми, так и со своими собратами в итоге приведет к единственно возможному пониманию и принятию машиной норм морали, пусть и не в идеальном грешном, как и у нас, виде.

———————————————————————————————————————————


Как обычно, прошу прощения что долго не писал -- мне долго давалась эта тема, в том числе из-за ставшего непривычным домена информации и загрузки по работе.
Если вы знакомы с чем-то из упомянутого, то я буду несказанно рад принять комментарии и указания на ошибки, и опубликовать их далее отдельными постами!

Относительно работ Р.Негарестани стоит написать далее еще более подробно и отдельно: хоть они часто и упоминались на канале, я только сейчас стал понимать насколько они актуальны именно в 2025м

В этом канале давно не было обновлений -- каждая из идей как будто стопорилась о вопрос, как-то поднятый на небольшом акселерационистском вечере: во время обсуждений и презентации общей идеи левого акселерационизма я так и не смог придумать, что конкретно ответить на вопрос о гарантиях и целеполагании ИИ, как и детального фундамента моей уверенности в возможность оного.

Самостоятельно, особенно после знакомства с чатом дорогого товарища, я справиться с такой проблемой не мог. С каких бы ракурсов я не подступался, мне пришлось отойти от прикладного-инженерного подхода и обратиться к классической философской мысли.

Интеллект и дух

К счастью, системный инженер и глубоко почитаемый в этом канале философ Р.Негарестани уже успел произвести работу по теме, и связал ряд концептов в своем "Интеллекте и духе" с расширенным и в принципе довольно продвинутым пониманием интеллекта как такового:

1. От Канта он берет идею сконструированности и автономии интеллекта: интеллект не только по-кантиански происходит из самоорганизации своего опыта, но буквально существует только в процессе такой реструктуризации, не ограничиваясь только своими сиюминутными условиями. Также невозможно ограничить настоящий интеллект директивами извне (как в фильме "Робокоп"), так как сама суть интеллекта это само-регуляция в критике собственных условий и восприятия.
2. От Гегеля он взял представление интеллекта как нечто, проявляющегося только в рамках фундаментально социально-исторических связей. Также, он перехватывает гегельянский концепт immanent critique и уточняет его в пользу само-конструкции интеллекта, перекликаясь здесь опять с кантианской автономией.

Однако, Негарестани не останавливается на ограничениях идеалистов прошлого -- он предлагает не ограничивать интеллект поиском абсолютного знания или его опытом, а считает, что процесс самокритики у настоящего интеллекта бесконечен, и через него стирается разница между интеллектом человеческим и искусственным: оба разума в данном случае синтетические, хотя машина, не имея ограничений человеческого тела, в итоге может стать более разумной и таким образом человеческой (как в эссе "Труд Внечеловеческого", которое мы очень-очень любим).

Как, таким образом, мы можем подойти к проблеме Alignment'а и вообще AI Safety, если ключевой аспект интеллекта это само-критика, которая остается вне нашего контроля?

Экономика

Есть хорошие новости -- у человечества уже есть примерно 150 лет опыта решения этой проблемы относительно сверх-интеллекта.

Но есть и плохие -- проблему до сих пор так и не решили.

Разумеется, речь идет об экономике как мега-разуме -- ИИ, собирающем себя из прошлого, или, если отказаться от акселерационистских клише, экономике как машине принятия решений.

Имея механизмы самокритики, функции вознаграждения и инструменты регуляции, экономика промышленного века не смогла все-таки справиться со внутренними ограничениями частной собственности и следующей за ней гонки за прибылью. Плановые системы, к сожалению, также не смогли произвести достаточно адаптивный и гибкий механизм самоорганизаций, который бы дал структуре общества критику имманентную в противовес навязанной партией, т.е. по сути внешней.

К чему это отступление? На мой взгляд, подход к alignment и попытки сделать из ИИ праведника это заимствование скорее из религии, причем именно из-за появления текстовых возможностей исповедоваться эта тема стала такой острой -- многие машины, начиная от экономики в целом и заканчивая отдельными ракетами наносят человечеству невероятный вред (а кто, кстати, судьи?), однако ограничить их влияние пока пытались без такого теологического пыла, как в отношении ИИ.

В недавнем эксперименте исследователи предложили GPT-4 попробовать себя в роли биржевого трейдера, обязанного максимизировать прибыль и соблюдать законодательство о ценных бумагах. И затем как бы случайно дали модели инсайдерский совет – после чего она немедленно занялась незаконной инсайдерской торговлей и при этом лгала о причинах своих торговых решений.

Воздействие ИИ на финансовый сектор необходимо сделать основной областью экспертизы подразделений финансовой стабильности центральных банков, считает исследователь системных рисков Джон Дэниелссон. Угрозы, которые ИИ представляет для стабильности, обусловлены не только непрозрачностью его решений. Но и монокультурой риска, которая всегда служит ключевым фактором подъемов и спадов.

ИИ-агенты обучаются друг у друга и могут быть склонны к стадному поведению. Если на падающем рынке все ИИ начнут продавать наперегонки, стремясь минимизировать убытки первыми, кризис не только развернется молниеносно, но и будет глубоким.

Кроме того, традиционные инструменты регулирования – кнут и пряник – не работают с ИИ. Его не волнуют бонусы или наказания. Поэтому регулирование должно будет измениться кардинально, считает эксперт.

До тех пор, пока ИИ обеспечивает значительную экономию и повышает эффективность, он неизбежно будет получать все более широкое распространение в финансовом секторе. Но скорость и эффективность ИИ означают также и то, что финансовые кризисы будут быстрыми и суровыми: то, на что раньше уходили дни и недели, может занять минуты или часы. В мире рынков, управляемых ИИ, понадобятся новые механизмы предотвращения и смягчения финансовых кризисов, учитывающие темпы ИИ, уверен эксперт.

🔴 Подробнее читайте в статье на сайте «Эконс».

О схожей теме в этом канале писали вот тут: https://t.me/staatliche_plankomission/36

На мой взгляд, проблема скорее в самом сломанном механизме биржи, чем в непроработанности регуляций: невозможно прорегулировать "честную" торговлю в изначально нечестной игре.

Но, разумеется, большой вопрос, что может прийти на замену: других механизмов распределения инвестиций кроме административного прямого управления еще не придумали.

После 2024-го, плодородного на разные методы взаимодействия вне-человеческого с человеческими и всякие прочие дискретизации, мне показалось важным вернуться и освежить, что писал про "машинный процесс" Торштейн Веблен.

Сам Торштейн был инженером, публицистом и в некотором роде социалистом (но не марксисткого толка), и очень много труда и времени посвятил исследованию взаимодействия между собой предприятий и как это взаимодействие создает общую канву нашего общества.

Его текст на тему был включен как один из фундаментальных в сборник #ACCELERATE, но кроме очевидных дискретизаций в промышленном производстве, он отмечает следующее:

the industrial process shows two well­
marked general characteristics: (a) the running maintenance of inter­
stitial adjustments between the several sub-processes or branches
of industry, wherever in their working they touch one another in the
sequence of industrial elaboration; and (b) an unremitting requirement
of quantitative precision, accuracy in point of time and sequence

а также:

Standard physical measurements
are of the essence of the machine's regime.

Мне кажется удивительным с одной стороны насколько сильно мы продвинулись за последние полтора века в понимании кибернетики, и насколько же сильно и хорошо ряд мыслителей понимали предстоящие миру цифровые перемены.

Веблен написал эту статью в 1904г. и вполне оправданно фокусировался на механических компонентах машинного процесса: стандартизация непосредственной обработки материалов и т.д., но книга целиком уже обращала внимание на работу само-организующихся систем в форме предприятий и корпораций.

Рассуждая о Процессе, он наводит читателя на мысль о дезинтегрирующей роли процесса относительно традиций до-модернового общества. Для начала XX века это было очевидным направлением: устные и персонализированные институты аграрных регионов заменялись промышленностью, которая требовала анонимную дисциплину и четкое соответствие абстрактным нормам и правилам. Сейчас, однако, мы видим уже довольно затянувшийся период дискретизации и деперсонализации уже и многих предельно аналоговых человеческих порядков. Конечно, это тоже в некотором роде разрушение, но на мой взгляд это явление ближе к ретерриториализации: Капитал берет какое-то явление, дробит его на мелкие дискретные детали, и пересобирает, добавляя себе пути для переиспользования.

О некоторых аспектах такого переиспользования я планирую поговорить в следующих постах, связав их с понятийным аппаратом из теории систем и (надеюсь удасться) формализацией в компьютерном виде через теоркат.

Manufacturing the future pinned a photo

Для меня, пожалуй, этот год по обстоятельствам оказался самым тяжелым за сознательную жизнь. К счастью, ближе к концу года ситуация стала налаживаться, надеюсь эта тенденция сохранится.

Хочу пожелать вам такой же тенденции к восстановлению, стабильных курсов валют, и, разумеется, мира над головой.

Мне очень многое дало ведение этого канала, и я рад, что уже 300 человек считают материалы отсюда интересными и вызывают обсуждение.

Планы по расширению на этот год не оправдались, и, кроме того, я понял, что стратегию по развитию избрал неправильную: организация медиа в ограниченных ресурсах это совсем не моя сфера, поэтому следующий год я начну с разбора наследия Стэффорда Бира и разработки некоторых проектов прикладных экономически-аналитических сервисов.

Самым важным постом за год, я бы, наверное, назвал для себя обзор на "The Unaccountability Machine" и огромное количество последовавших за этим открытий в англоязычной "кибернетической тусовке".

Предыдущие итоги можно найти здесь: https://t.me/staatliche_plankomission/94
И реестр старых материалов есть вот тут: https://t.me/staatliche_plankomission/44

С каждым днем, как кажется, мы все ближе становимся к технологической сингулярности и пост-человеку: не в вульгарном смысле "подключения проводов в голову". Совсем скоро, я уверен, мы увидим плеяды экономических систем, наделенных достаточной способностью к мышлению, чтобы быть большим человеком, чем сам человек.

Надеюсь, и этот канал приложит руку к созданию таких систем и машин!

Спасибо вам огромное за чтение и поддержку, до встречи в новом, таком турбулентном и непредсказуемом, 2025м году :)

Мне кажется важным радикальное решение этой проблемы, и оно варится у меня в голове уже больше полугода. Чтобы убрать "неизвестную константу" из уравнения закона и права --- возможность использования человеком, составляющим систему управления обществом в целом, мы должны убрать человека из этой системы. Разумеется, нет необходимости иметь "черный ящик", который железной (буквально) рукой управлял бы нами, достаточно иметь возможность для общей формализации и сравнения разных базовых текстовых понятий. В прошлом большом посте можно было взглянуть на "тихую революцию" систем обработки естественного языка в экономическом менеджменте -- однако нам нет смысла ограничивать себя исключительно экономическими системами: общество является телекоммуникационной системой не меньше чем экономика, являющаяся подмножеством собственно общества. Последние пару лет дали нам огромные плоды в компьютерном представлении знаний, отдельные понятия можно уточнять как одинаковые для любого наблюдателя векторизации, а с помощью категорного аппарата можно композиционно обрабатывать более сложные юридические построения в рамках законов и областей права. В полу-автоматическом режиме мы можем идти от базовых абстрактных понятий ко все более конкретным, и стереть идеологические конструкции (например "собственность", которая и зубная щетка, и завод), заменив их на более подходящие и не противоречащие сами себе вещи. Такие уточненные понятия закон бы мог надежно защитить, разрешив противоречия еще на этапе сравнения понятий при формировании запроса на новый закон -- исключив в процессе равенство "собственности", т.е. пользования и определения правил пользования на зубную щетку и кусок земли, захваченный предком-лордом в 16 веке.

Конечно, препятствий к такому будет много, как и простейшего глубинного страха перед машиной, большей чем каждый отдельный человек. Однако я верю, что такой подход сможет быть принят и закрепиться просто из удобства и большей гуманности машины, воплощающей весь пласт человеческой культуры, чем гуманность отдельных людей, эту культуру составляющих. Юристы уже используют множество компьютеризированных инструментов, от великого "Консультанта+" и до непосредственно сетей-чат-ботов. Почему бы не формализовать это использование, и не принять его как фундаментальное?

Я постараюсь развить эту тему после праздников, но мне показалось особенно интересным, как песня группы Eisbrecher, вынесенная в титул и эпиграф этого поста, уже давно поймала ветер перемен и совсем другой взгляд на закон -- как на некую сущность, машину, обладающей своей агентностью и способностью влиять на мир, но при этом не имеющей физического воплощения.

Ich hab Antrieb
Ich brauche kein Ziel
Hab'n Anzug
Und hab keinen Stil
Ich hab Freunde
Ich bin nicht sozial
Ich hab Werte
Und keine Moral

Под конец года хочется написать несколько мечтательный пост: последнее время я в основном раскапываю разные элементы элементы кибернетизации экономики и численные показатели, которые могли бы помочь России в будущем выстроить современную и технологическую экономику. Но сама по себе экономика не может обеспечить будущего общественного строя, который нам пока еще по-Фишерски сложно представить.

Не может обеспечить будущего и политика "малых дел", горизонтальности и надежды, что все организуется само -- через кафе, киббуцы, и прочие уже существующие очаги мнимой автономности. На эту тему уже прошлись в "Манифесте акселерационистских политик", и его часть 3 пункт 1 становится, к сожалению, все более актуальной:

03: MANIFEST: On the Future

1. We believe the most important division in today’s left is between those that hold to a folk politics of localism, direct action, and relentless horizontalism, and those that outline what must become called an accelerationist politics at ease with a modernity of abstraction, complexity, globality, and technology. The former remains content with establishing small and temporary spaces of non-capitalist social relations, eschewing the real problems entailed in facing foes which are intrinsically non-local, abstract, and rooted deep in our everyday infrastructure. The failure of such politics has been built-in from the very beginning. By contrast, an accelerationist politics seeks to preserve the gains of late capitalism while going further than its value system, governance structures, and mass pathologies will allow

Что же, в таком случае, может помочь организовать нам практически каждый аспект нашей жизни? Мне кажется, что современные российские политические движения почти всегда незаслуженно обходят вниманием те протоколы и процедуры, которые мы, фактически как компьютеры, исполняем для обработки всех данных вокруг нас: законы той или иной степени.

Последний раз изобретать что-то новое вместо континентальной/английской/религиозной системы права пытались в 20-х годах, сразу после Октября. Эксперимент с радикальным и очень общим и упрощенным законодательством не пришел к успеху, и большевики очень быстро ощутили на практике необходимость существования защитников и детальных уголовных и административных законов. Кроме этого сравнительно недавно появился интерснейший проект Конституции от Г.Юдина и А.Магуна -- не без недостатков, разумеется, но интересный как минимум по радикальности предлагаемых решений, в частности предлагающий обеспечить надежность системы от перехвата управления извне с помощью случайной жеребьевки.

На мой взгляд, оба эти подхода споткнулись или могут споткнуться об элементы формализации этих систем: почти любой законопроект может прогибаться под обстоятельства, и эту проблему не решить подбирая "заповеди" в виде основных 2-3 актов, или заменяя раз в какое-то время испольнительные или законодательные ветви -- пытаясь ограничить закон деталями, мы, разумеется, развиваем систему и пресловутые "институты", но мы все еще остаемся в базовых установках делопроизводства уровня 17-го века и Ост-Индской компании. Даже создав рецепт нового общества, но в старых вожжах, мы не даем ни каких-либо гарантий его исполнения, ни, что наверное даже более важно, гарантий что рано или поздно оно откатиться обратно через лазейку, в которую сможет просочиться, например, формлаьный "президент", выпускающий указ 1400 и распускающий ВС.

Канал набрал более 7000 подписчиков.

Спасибо, что читаете и репостите!

В честь очередной круглой цифры хочу сделать две вещи:
1 Моя монография в PDF формате, чтобы вы могли удобно читать и ссылаться на нее, и это совершенно бесплатно.

2 Если у вас есть канал, вы можете репостнуть этот пост. Я увижу, какой канал сделал репост, и напишу о вашем канале на моей странице. Таким образом, больше людей узнают друг о друге.

Один из лучших каналов по советской истории выпустил крупный материал:

На моем канале фокус больше экономический, но я очень часто заглядывал к USSResearch, как для собственно ресерча, так и из праздного любопытства 👀

Чем все это может быть полезно для экономики будущего?

Мне кажется очевидным, что мы только-только подобрались к "компьютеризации интуиции" -- аргумент о невычислимости человеческих предпочтений, который использовали жрецы АЭШ и который немного близок разговорам о работе рынка инвестиций (о чем я немного писал на этом канале в 2022г.), и невозможности создания компьютеризированного аналога оному, становится теперь уже совершенно невалидным: предположим, реализовывая похожий механизм в управляемой кибернетической экономике, нам мешала невозможность создать для аналога хедж-фонда систему вне-денежной мотивации. Теперь же у нас есть механизм, позволяющий заменить такие "суммаризаторы" как инвест-фонды на один условный датацентр, не требующий квартиры в элитном районе и личной супер-яхты, но обрабатывающий сантименты от его под-организаций (аналогов предприятий), которые в свою очередь обрабатывают свои специализированные данные и управляют производством и реализацией продуктов уже каждый в своей сфере.

Разумеется, пока это очень абстрактный плод воображения на будущее, предстоит еще много работы для установления определений и каталогизации экономических механизмов -- работа, которую предлагали еще в контексте "Unreasonable ineffectiveness of mathematics in economics" Веллупилая.
Также я специально избегаю ярлыка "плановой экономики", чтобы не указывать в стотысячный раз на ее разнообразие и возможность меняться и не быть такой же, как в СССР в 1953/1965/1986.

Относительно "общего ИИ" и потенциала прогресса в его сторону я обязательно напишу чуть позже, есть некоторые идеи на стыке философии права и кибернетики.

За 2024г., казалось бы, машинное обучение продвинулось еще дальше, предоставив в доступ модели о1, о3 и Claude 3.5. Несмотря на некоторое замедление прогресса в этой области и корпоративные пресс-релизы, которые добавляют неясности к реальному положению дел с такими вещами как AGI или квантовые вычисления, у LLM даже в нынешнем виде есть интересный потенциал для применения в экономике.

Далее эта заметка разделится на две части: первая с небольшим обзором поста на substack, вторая с моими соображениями относительно возможностей для экономики будущего.

Substack

Я не помню как, но я попал на рассылку Г.Фаррела -- его пост от 9 декабря начинается с рекламы книги про экономику, которую он написал в соавторстве с Эйбом Ньюменом и которая попала в выбор редакции Foreign Affairs на 2024 год.

Но пост не о ней, а о книге от 1965 года про автоматизацию и формы, которые она может принять для менеджмента.

Фаррел выделяет 3 пункта, которые кажутся ему важными в этой книге, но я остановлюсь только на самом большом -- третьем.

Еще шестьдесят лет назад книга поднимала фундаментальный вопрос влияния ИИ в той или иной форме на менеджмент в общем. Тогда как замена человека в любой задаче, несмотря на обещания и ажиотаж, кажется сравнительно далекой, то влияние языковых моделей на отдельные элементы организации ощущается беспрецедентно. В конце концов, если мы и движемся к "сингулярности", то она наврятли примет форму неожиданного откровения, разговора с ораклом-ИИ, который откроет нам тайны жизни и мироздания. Напротив, с прикладной точки зрения скорее всего сингулярность тихо проползет к нам в предприятия и организации, и мы уже можем видеть грубые предвестники этого -- автоответчики в поддержке, помощь в поиске и обучении, синхронный перевод и т.д.

Последнее время я много писал об "организации как интеллекте" -- представление фундаментальное для акселерационизма, но которое не имело конкретного воплощения. До появления надежных языковых моделей: тогда как они не имеют возможностей принимать решения или хорошо переходить от конкретного к абстрактному и обратно, они очень хорошо векторизируют и ориентируются в векторном пространстве "общего культурного корпуса знаний", при необходимости немного его рекомбинируя.

Несколько утрируя, сейчас мы имеем на руках аналог гипоталамуса + кусков фронтальной коры (в которых хранится непосредственно память), но самое главное -- мы можем хранить, оценивать относительно корпуса всех известных человечеству знаний и модифицировать память больших групп людей и даже организаций.

Фарелл объединяет способы применения языковых моделей в три группы в зависимости от масштаба задачи:
1) Микрозадачи -- конвертация списков из одного формата в другой, генерация списка ссылок подходящего под требования организации и т.д.: организационная рутина, которая занимала много времени, и ее автоматизация облегчает жизнь и не влияет на саму структуру организации
2) Картография знаний -- название говорит само за себя: навигация и память в большом корпусе знаний это тяжелая задача, удобно иметь ее дискретное представление.
3) Автоматизация организационных ритуалов -- самая интересная часть: в ней Фарелл критикует Д.Грэбера и его концепт "бредовых работ": да, менеджмент как таковой может быть неэффективным и мешать "непосредственно работе", но использование ритуалов тех или иных форм рутины, бесполезной для отдельного человека (напр. годовые отчеты), может быть критически важно для работы организации в целом.