«фарш-теория»

Не так давно в Garage Digital писал про Богну Кониор и ее «теорию темного интернета». Честно говоря, эта книга оставила после себя много фрустрации — поэтому вот небольшой метакомментарий поверх оригинального поста.

Сперва я был заинтригован неожиданным теоретическим ракурсом: Кониор обещает вырастить новую теорию интернета из уфологии. Центральный конфликт книги строится вокруг допущения, которое называют «парадоксом великого молчания вселенной» (также парадокс Ферми). Он звучит так. Чисто технически, во вселенной существуют все предпосылки для зарождения разумной внеземной жизни; но человечество до сих пор не зафиксировало никаких радио-следов, которые могла бы оставить такая цивилизация, и это странно.

Теория темного леса, сформулированная в одном из научно-фантастических романов Лю Цисиня, объясняет этот парадокс так: все молчат, потому что выдавать себя — рискованно. Сигнал, наобум выпущенный в космос, может перехватить враждебно настроенная цивилизация. Собственно, с такой точки зрения, человечество ведет себя крайне неразумно: мы буквально фонтанируем медиа-сигналами, и чем дальше, тем интенсивнее.

Изначально меня привлекла хитрая риторическая структура в книге у Кониор: когда внешнее оказывается внутренним, и наоборот. Та самая внеземная жизнь зародилась прямо у нас под носом: это и есть сама сеть, между узлами которой таятся алгоритмы — и молча наблюдают за нами. Это интересная стартовая точка — благодаря скрытой в ней диалектичности; но на деле она же и конечная, и в этом главная проблема этого текста. Вот (конспективно) его основные слабые места:

/1/ Авторка видит в сети некую тотальность — которой в ней нет и никогда не было. Странно приписывать некую волю сущности, которая состоит из множества проприетарных (и не очень) агентов — каждый из которых обладает определенной степенью автономии и преследует свои цели.

/2/ Тот самый внешний/инопланетный взгляд, которым так интригуют читателя — это просто-напросто скрейпинговые алгоритмы, собирающие наши данные в интернете. Ни больше и ни меньше — здесь весь диалектический импульс книги сходит на нет.

/3/ Недолго думая (как вообще принято в art-adjacent философии и теории), Кониор предлагает программу политического сопротивления алгоритмтическому Другому — на случай, если сеть узнает о нас слишком много и решит поднять бунт. Вместо того, чтобы рассказывать в интернете про свою жизнь, она предлагает пользователям производить намеренно субверсивный контент — чтобы ИИ, который будет на нем учиться, поломался и самооуничтожился.

Но любой человек, который хоть как-то соприкасался с индустрией ИИ, знает о принципе garbage in, garbage out. Мало просто собрать данные для машинного обучения; их нужно хорошенько профильтровать. И инженер из Anthropic с пятизначной з/п найдет способ избавиться от мусора — и в том числе от маленькой артистической субверсии Кониор. А если не он, то другая умная модель, заточенная специально под это; ведь ИИ сейчас буквально обучается во многом под надзором другого ИИ.

Но это мелочи. Главная проблема в том, что непонятны, собственно, политические основания этой субверсии: для чего она нужна и какие цели она преследует? Разумно ли кормить мусором машинки, которые буквально перекраивают материальный мир здесь и сейчас? Каким именно мусором нужно их кормить, и какого именно поведения мы от них хотим? Почему мы вообще пытаемся «поломать» эти машинки, если они — всего лишь статистическое воплощение корпоративного мира, за ними стоящего?

Вопросов много — приглашаю вас продолжить список. Задавать их — весело, и весело потому, что перед нами — один из прототипических примеров того, что я называю фарш-теорией: риторической мимикрии под теорию с очень слабой внутренней структурой (и такой же слабой фактологической базой). Это работает в качестве облака тегов, но попытка соединить их в единое целое вызывает только раздражение.