OpenAI на днях опубликовала несколько сотен работ по математике, сгенерированных ChatGPT, посвященных решениям и доказательствам математических задач. Математическое сообщество отреагировало довольно смешано, а где-то совсем негативно — на то есть множество причин, и о них нам и стоит поговорить.

Во-первых, многим ученым не нравится, что в последнее время их деятельность сводится к чтению сгенерированных ИИ работ. Но они вынуждены считаться со всем, что громко заявляет об «открытии» или «решении математической проблемы».

Но как устроена наука? Наука — это в первую очередь люди, ею занимающиеся. Именно они создают консенсус, правила взаимодействия, передают знания и опыт и поддерживают понимание актуальных проблем, определяют новые проблемы, а также несут ответственность. Наука — это не просто огромная куча информации, это сеть акторов (ученых, журналистов, преподавателей, лабораторий, научных премий и т.д), которая обрабатывает и производит знания руководствуясь социальными, субъективными и материальными отношениями.

На текущий момент ИИ не функционирует как инструмент в поле математики: он вторгается извне и пытается замкнуть на себе всю научную деятельность. В результате математики выполняют роль «мясного валидатора» — все самое интересное (и скучное!) и важное, то есть сама научная деятельность, рискует испариться.

Последствия у этого весьма очевидные: многие математики прямо заявляют об экзистенциальном шоке, потере желания, а также страхе за свое научное будущее. Действия OpenAI деструктивны для всей области знания — они лишают многих людей смысла начинать или продолжать научную деятельность.

Второй вопрос касается перспектив отношения математиков к математике: что может произойти с математиками, если они начнут хуже ее понимать, все чаще проверяя результаты работы LLM? Понимание и возможность его передачи — это необходимое условие для самой проверки. Как люди, постоянно решающие сложнейшие задачи, будут держать свой ум в тонусе, если LLM будет забирать эту нагрузку? Современная математика уже находится на высоком уровне абстракции, а ЭВМ давно уже сняли лишнюю нагрузку. Какую же роль будет выполнять математик?

«Технологическая сингулярность», о которой так грезят многие, может обернуться вырождением всего научного поля. Перспектива вернуться в темные века, где наша картина мира состоит из ответов, недоступных пониманию (не только потому, что это сложно, а потому что мы потеряем нить и необходимость), выглядит тревожной. Именно в этом отношении верны все сравнения ИИ с Богом — приоткрытый эпохой Просвещения мир рискует снова закрыться для нас мистической вуалью технологии. Это же и объясняет упор на особый мистицизм, свойственный неореакционному движению (Темное просвещение), так популярному среди американского биг-теха, и роднящего его с неофашизмом.

Третьей проблемой становится структурное противоречие между капиталистическим способом производства и научным сообществом. Наука уже давно вписана в КСП: частные и государственные инвестиции направлены на сокращение издержек/максимизацию прибыли и рост экономики (что не всегда означает рост уровня благосостояния населения).

В этой точке хорошо заметно, что быстрый результат и погоня за научными открытиями в рамках современной идеологии являются для капитала желанным объектом. Но от научного знания нужны не только открытия (продукт) — нужно также и то, чтобы научное знание продолжало свою работу, нужны ученые, производящие понимание, а это требует времени. Этот момент начинает рассматриваться КСП как издержка, требующая оптимизации. В подобной же логике выстраивается отношение капитала к искусству, о чем я писал два года назад.

Корпорации, очевидно, хотят иметь модели, способные совершать «научные открытия» и давать готовые ответы. Это усиливает возможности монополизации и кратно сокращает издержки — удобно не договариваться с учеными, имеющими свои этические и моральные установки, или не оплачивать их деятельность в былом масштабе. А выгода от всего коллективного знания будет в очередной раз приватизирована.