#DT 13. Критика спекулятивного разума 1. Научный или наукообразный разговор о вероятности обычно ведет за собой вопрос о модели, вопрос о том, какие возможности мы готовы рассматривать. Сэведж называет это “маленьким миром”: математическая вероятность не предполагает радикальной открытости к причудам судьбы, она требует ограниченного пространства возможностей. Но в жизни мы говорим о вероятности вовсе не так – в повседневной жизни “вероятность” попадается в разговорах как индекс неограниченной, генеративной спекулятивности, которой мы пытаемся поймать именно эту перипетийность жизни: “А что если пойдет дождь?” “А если завтра ядеркой?” “А вдруг выберут AfD?” – “Ну, это маловероятно”: это не вопросы, которые мы задаем в рамках заранее выбранной формальной модели, но наоборот – с их помощью мы направляем само наше моделирование. Несмотря на его несоответствие теоретическим ожиданиям, у этого отношения к вероятности есть важная претензия на адекватность реальности: “маленький мир” это оксюморон, мир всегда большой, это модели – маленькие, не способные учесть практически ничего.

Мы можем спекулировать, вводить новые и новые слагаемые в наши модели, даже полностью их менять. Это свойство нашего разума, но не только его – вы можете получить тот же эффект, попросив ЛЛМ придумывать гипотезы (этим уже занимаются ИИ-суперпредсказатели), или увидеть, как этот процесс развертывается общественными силами в комментариях на Полимаркете. Каждый день мы можем придумать какое-то новое будущее, испугаться его или обрадоваться ему, оценить его вероятность (всерьез, с помощью модели, или просто качественно, подобрав эпитет или эмоцию), и, возможно, модифицировать каким-то образом своё поведение.

Мой проект движим желанием показать неадекватность нормативных подходов к процессам принятия решений; это касается именно этой спекулятивной стороны, которая не подчиняется и не редуцируется к формальным требованиям теории вероятности. Модели же – способы оценить вероятность и полезность тех или иных перспектив в каких-то конкретных рамках и предложить адекватные этой оценке действия – оказываются инструментами или этапами этого процесса. Легче всего это разделение провести между человеком и механизмом, регулятором, скажем, термостатом или круиз-контролем, которые являются материальным воплощением той или иной модели; но, конечно, оно работает и с чисто умозрительными моделями.

Я скептически отношусь к разного рода попыткам навязать “рациональность” как тотальный закон мышления, которые воплощает, в первую очередь, Юдковский. Мой тезис, которого я касался уже в #DT-5, состоит в том, что предварительное обязательство (pre-commitment) быть рациональным противоречиво и, хуже того, легитимирует эксплуатацию (например, в условиях неравной рыночной власти, пример которой я описывал в #DT-6). Но разделение, которое я предлагаю, позволяет отдать этому идеалу дань: конкретные модели, как я надеюсь доказать, стоит воспринимать как формализуемые, при достаточно слабых условиях, малой ценой, даже если речь идёт о каких-то наивных и неформальных рассуждениях, или механизмах/регуляторах, сделанных без теории и на коленке. Под “малой ценой” я имею в виду что-то гораздо меньшее, нежели обещание вечно слушаться каких-нибудь правил и аксиом: какие-то конкретные и финитарные решения, формальные заплатки, каждая из которых бы подчинялась конкретному субъективному выбору, не принося никакую выразительность выводов (в тесных рамках выразительности модели) в жертву рациональной нормативности. Другими словами – обещать себе рациональность спекуляций – абсурд, но обещать рациональность моделей – реалистично, относительно несложно, но и едва ли принесет какие-то особые преимущества или доходы, кроме возможности использовать более-менее адекватный формальный язык для разговора о решениях.

Если это так, то мы можем довольно многое сказать об этих моделях, о довольно большой части процесса мышления, никак не опираясь на формальные ограничения перед спекулирующим разумом. Но самый интересный вопрос – не в самих рациональных моделях (довольно-таки простых, как правило), а в интерфейсе между этими спекулятивным и модельным процессами, центральную роль в котором играет вопрос о вероятности, которая является той формой, через которую эти два процесса коммуницируют.