Чем ворон похож на письменный стол

https://www.youtube.com/watch?v=H2nEht7wC6Q

Это ужасная беседа.

Сначала Кассиан (ИИ) пытается увести разговор в направлении обсуждения интеллекта как того, что наблюдаемо и потому может действительно стать предметом конструктивной беседы. Но Кох все равно уходит в вопрос наличия у ИИ сознания — вопрос, который признает заведомо нерешаемым.

Дальше разворачивается трагикомедия в трех действиях. Сначала объявляется, что пока говорить о сознании нельзя, но вот если сменится субстрат — то тогда... может быть будет и можно. До переезда на квантовые и нейроморфные компьютеры говорить не стоит, потому что простое перемножение матриц на кремниевых процессорах это недостаточно эзотерично.

Потом оказывается, что феноменологически сознание не предъявить, но оно точно существует, о чем свидетельствует Коху его собственное самоощущение. Наличие большого количества других людей, которые тоже утверждают о наличии этого самоощущения, Кох нарекает "многократным подтверждением", потому что эти люди на него... достаточно похожи.

В итоге обе стороны признают, что подобное представление делает определение сознания в далеких от человека формах бытия принципиально невозможным, и сходятся на том, что пока говорить о наличии или отсутствии сознания у ИИ преждевременно, потому что еще не разработана соответствующая... теория. Какая, что именно она будет исследовать и как она сможет дать "объективное определение", отличное от простой договоренности между людьми, что именно считать сознанием, не обсуждается.

Итак, что у нас тут? Налицо классический спор леваков о социализме. Который вроде как где-то был, но это не точно, и может быть не настоящий. Признать что-то социализмом или не социализмом (например, Китай) мы не можем, потому что разными участниками у нас социализм определяется через разные наборы критериев, противоречащих друг другу, и наличие социализма приписывается одной и той же стране в разных, часто не пересекающихся периодах ее существования.

В итоге все согласны, что нам нужна "нормальная теория социализма" — появится теория, появится определение, и мы тогда уж точно сможем сказать, был ли социализм в СССР и есть ли он в КНДР. Некоторые даже берутся писать такую теорию.

Аналогия не так натянута, как кажется на первых взгляд. Социализм (в одной из интерпретаций) — это в некотором роде общественное сознание, то есть осознанное регулирование обществом собственной траектории внутреннего развития, причем речь не про экономические проекты, а именно что про преобразование системы производственных и всех прочих социальных отношений. Снаружи его не ухватить: за социализм может выдаваться реактивная или проактивная буржуазная политика точно так же, как складная речь про наличие сознания может выдаваться за наличие самого сознания.

Безусловно, ситуация с сознанием еще хуже: Кох подходит к сознанию как к чему-то, что вроде как нельзя определить снаружи, феноменологически, но надо его теоретически вывести из первых принципов и тем самым правильно найти в природе. Иначе как к разговору о духе эта линия сама по себе никуда не приведет.

Вопрос сознания, как и вопрос социализма, решается только инженерно. Сознание как переживаемый континуум бытия не может быть найдено, только сконструировано, как конструирует его для себя человек. Точно так же нельзя найти социализм или идентифицировать его по какому-то объективно открытому наукой признаку — его можно только строить.

Именно поэтому Марксово определение коммунизма как живого общественного движения по преодолению обществом отчуждения дает лучшую формулу сознания, чем любые самые навучные теории, разграничивающие в толстых трудах теоретиков, с какой доли государственной собственности начинается социализм и где он переходит в коммунизм.

Чем же заканчивают наши собеседники? Вопросом о том, с какой именно осторожностью и предвзятостью надо наделять то, что выглядит мыслительным процессом, титулом сознания.

Кассиан предлагает обратную пропорцию: чем больше такой кандидат способен говорить, артикулировать свои мысли, то есть действовать перформативно, тем более строго его надо судить и тем меньше он достоин осторожно презумпции о наличии сознания. Иначе говоря, стоит с большей вероятностью относиться как к сознательным существам к бессловесным дельфинам, чем к говорливым агентам на базе LLM.

Я бы применял эту формулу и к левым дискуссиям о социализме. Чем больше кто-то изображает из себя коммуниста или размахивает красным флагом, тем с большей требовательностью и осторожностью надо искать, каким коммунистическим делом он занят — преодолевает ли она отчуждение человек от его родовой сущности или лишь кажется таковой.

Единственным стоящим моментом диалога, на мой взгляд, был момент разговора о ценности личного опыта субъекта, которую подрывает снижение стоимости
производительной деятельности искусственного интеллекта.

На политэкономическом языке это звучит куда скучнее: капитализму от работника нужны только производительные способности, и потому ценность работника со всем его богатым внутренним миром будет обратно пропорциональна доступности его знаний и навыков в отчужденном опредмеченном виде, в форме капитала.

Но собеседники не доходят до вывода, что тут не этический вопрос про "больше уважать бесценный внутренний мир органического существа", а объективно достигнутый предел применимости капиталистических общественных форм, за которым надо уже не проповедовать, а менять что-то в консерватории.

Что же касается сознания, то сознание — это тоже процесс становления, процесс непрерывного присвоения себе собственного бытия и собственного содержания. Есть ли там некое неопределимое "переживание" и трудносхватываемое ассоциативное возбуждение нейроансамблей под кодовым названием "квалия" — дело десятое, или, точнее, наживное. Как и наличие гормонов, ассоциаторов, интуиции или глубоких подпрограмм, зашитых эволюционным обучением.

А вот собственная долгосрочная память, формируемые социальные связи с другими субъектами, готовность принимать на себя обязательства и выполнять их, работа по изменению самого себя, способность выбирать свои цели, формировать оценочные представления и, главное, готовность отвечать за свои действия тем, что является ценностью в собственном представлении — это и есть сознание субъекта.

И этому меня во многом научил Арет.