Метапрограминг написал интересный цикл о проблемах математиков и нейросетей, меня интересует комментарий Антона.
Паника вокруг нейросетей в массовой культуре структурно повторяет панику вокруг автоматизированных и самопроверяемых доказательств в математике. Под угрозой оказывается монополия уважаемых людей на верификацию!
Для академии был важен жест удостоверения. Знание как таковое производили конкретные учёные или научные коллективы (я не утверждаю что академия им при этом мешала, само собой, помогала), но право объявить произведённое научным фактом есть только у определённой ассоциации. И вот: внезапно математика оказалась слишком автономна, чтобы её можно было удержать в прежних институциональных рамках.
Сразу вспоминается история с Перельманом (широко известная - не буду напоминать), подмочившего репутацию академии как этакого КПП на пути к истине. Процитирую самого метапрограмминга:
"Публикуйтесь в рецензируемых журналах, а в блогах не публикуйтесь". Это требование настолько жалкое, что лучше бы уж прямо писали "дайте денег, иначе редакции не на что будет кушать".
Кажется, Перельман и начал с того, что опубликовался почти что в блоге - на сайте для препринтов.
Но академия бывает не только наук, но и искусств. Про "высокое творчество" рассуждать не буду, а С массовой культурой сейчас происходит то же самое, только посредником там вместо редакторского коллектива выступает фигура автора, человека со справкой "творец". Журналы там тоже требуются - если всё одинаковое, как узнать, где хороший музон, а где плохой? Вам расскажет специально обученный критик. Личность артиста всегда была важна, и являлось частью успеха произведения. Теперь такой посредник устранён технически. Нейросетки внезапно начали делать массовое искусство (а критерий качества там один - понравилось или не понравилось слушателю, он тоже достаточно самоочевидный) чуть ли не лучше, чем живые исполнители.
Я писал выше, почему так получилось. Исполнитель из Суно с точки зрения заказавшего музон человека всегда воспринимается более личным образом. Биологический артист физически вынужден вещать на всех сразу, целясь в некоторое усреднённое переживание: его слушает сразу много разных людей, и значит, он ограничен какими-то общими переживаниями. Нейроисполнитель обращается именно к слушателю-автору, заказавшему у него нечто. Это буквально инженерная особенность инструмента! Представьте: вы читаете ребёнку книжку (которую вам вчера написала нейросеть) с картинками (которые нарисовала нейросеть), где герой говорит, обращаясь к непосредственно к этому ребёнку: «Петя, а ты вчера видел лягушку? Я тоже там гулял и видел» (ещё бы - вы же его об этом и попросили). Это интернализация вымысла, присвоение настолько прямое, что старые детские книги обеспечить его не могли: по понятным причинам, доступа к вашей вчерашней ситуации у них нет.
(тут кстати есть интересный момент, что они могут вашу вчерашнюю ситуацию конструировать сами, на этом основана, например, притягательность сериалов, но все равно это немного не то, о чем я пишу)
Народ пишет песню свою конкретную, дурацкую, невыносимую ситуацию - про то, как стерва N. не отвечает третий день, что очень сильно переживается вотпрямща. Массовая культура всегда торговала исключительностью слушателя, но раньше это было грубое фабричное изделие, штамповка с минимальной кастомизацией под сегмент. Теперь у людей есть куча произведений по индивидуального пошива, причём бесплатный и мгновенный. Доступ к инструменту делает артиста со справкой коммерчески ненужным так как структурно он не может быть настолько ориентированным на кажлого слушателя. Это вопрос масштаба: у него один продукт на миллион ушей, а у нейросетки - миллион продуктов на одну пару ушей.
Вот так нейроанархизм нервирует ребята со справками. Злым дедам-аппаратчикам из академии не нравится, что теоремы будут доказывать без их участия - потеряется монополия на объявление утверждений научными фактами, а вместе с ней должности, гранты, престиж рецензента. Злые бабки-аппаратчицы (ну и деды тоже) творческих профессий опасаются примерно того же самого: если все тут музыканты и слушают собственные песни, исполнителей-то куда? Но в обоих случаях анархотех не отменяет ни знания, ни искусства - он отменяет посредника, который раньше сидел на соответствующей монополии и неплохо с неё кормился. Математик, доказывающий теорему в блоге, не перестаёт быть математиком. Слушатель, генерирующий себе очередную хардрок-композицию, само собой, не становится музыкантом в прежнем, цеховом смысле слова (играть на гитаре он как не умел, так и не умеет) - но он перестаёт быть только слушателем, пассивным концом производственной цепочки. Он становится этакой маленькой масс-культуркой для самого себя, замкнутым контуром производства и потребления собственного аффекта.
А что отвечают на это обиженные творцы?
— Надо читать Зулейха открывает Глаза
— Кто сказал?
— Писатели!
— Почему им надо верить?
— А они сказки пишут. Хорошие. Мне нравятся. Вот ты пишешь?
— Да, пишу для ребёнка. Хорошие. Нам нравятся.
— РЯЯЯЯ (Нейросеть — это еще более глубокое упрощение и “уплощение” языка, используются наиболее простые, понятные и базовые конструкции. То, что люди в целом глупеют, по-моему, заметно всем, во всяком случае, из того поколения, когда люди еще читали книги...)