Майкл Харрис, наш старый знакомый, борец с ИИ-корпорациями в математике, описывает эссе Александра Гамбурда как "одно из двух наиболее глубоких эссе, когда-либо написанных, раскрывающих последствия применения ИИ для математики" (второе – это пресловутое, очень хорошее "Падение экономики теорем"), как "бескровный меч" ИИ движения: "Зов сирены кремниевого Левиафана: размышления о Взрыве и Aufklärungsdämmerung" – последнее слово, я не шучу, фрактурой в пдфке – выложено, как сейчас модно, на ArXiv. Аргументы его слабы и реакционны, стиль – эрудитское-порно клод-спиком, я покритикую и то и другое, они оказываются ровно тем, против чего мне интересно формулировать свою позицию.

Эссе представляет из себя нагромождение аргументов из всей литературы западного канона, в первую очередь из Гоббса и вплоть до Булгакова. Эти цитаты маскируют собой то, что можно было назвать довольно-таки правой реакцией на ИИ, и это очень показательные аргументы. Гамбурд начинает с того, что "Математика была демонстрацией того, что мечта Просвещения в принципе возможна: знание, которое принуждает к согласию без обращения к авторитетам, которое одинаково для крестьянина и князя, и которое любой человек, обладающий терпением, может проверить" – прекрасный заход, но абсолютно не объясняет, почему ровно таким же вдохновленным геометрией образом логически доказанная Гоббсом необходимость общественного договора порождает всякие сомнительные (согласно Гамбурду, не Гоббсу) вещи типа соверена и левиафана (напомню про свой пост в тему). Это важнейшая линия, но Гамбурд ее не раскрыл: для него есть прекрасная геометрия, грубый левиафан в неё лезет, а рождение второго из первой это какая-то причуда Гоббса, историографическая деталь, а не важнейший принцип политической мысли Просвещения. Каким образом этот просвещенческий суверен оборачивается у Гамбурда в "назад в средневековье"?

Люди обнаружили математику как знание-без-авторитетов, но любая попытка повторить ее само-доказуемость в области практического разума вновь порождает излишне конкретный, не абстрактный авторитет: так оно у Гоббса (даже если Гамбурд пытается этого не заметить), и так оно вплоть до Decision Theory. Это создает сложности для возвышенной идеи о математике как знании освободительном, особенно в рамках маленького математического диссента (давайте найдем себе нормального суверена, для своих). "Мы просто не будем принимать ИИ-доказательства" – идея, угрожающая лицемерием, бюрократией и раздвоением математики. Нет, вся структура суверенитета должна быть поставлена под вопрос – ну или, если это лень, просто принята – в цитируемых в эссе текстах Гоббса и Канта суверен в общем-то существует именно для того, чтобы, благодаря подчинению ему, оставалось возможность жить публично и заниматься наукой. Если OpenAI разрушает фантазии математиков об их автаркии, раздувая при этом ресурсы на их исследования, может быть, оно окажется и полезно, полезнее, чем бюрократический театр признания.

Нет ничего более просвещенчески-идеального, чем ИИ, этот лейбницевский Calculus Ratiocinator; чем "суверенные" ИИ-корпорации, озабоченные риторической проблематизацией собственной власти – идеалы Просвещения им не оппонент. Оплакиваемое "обстоятельство, что рассуждения на фронтире должны были проходить через человеческий разум" спасается тем и только тем, что мы можем сами определить, что такое фронтир; и если фронтиром перестанут быть математические задачки за миллион, это не трагедия человечества. "Падение экономики теорем" указывает на это куда мудрее, с минимумом романтических цитат – теоремы с призами это бюрократическая опухоль, а не суть математики.

Не мне лезть в полицию стиля и аргументации, с которыми у меня очень нерегулярно, но у такого рода критики появляется новый объект, клод-спик, который я не могу перестать замечать (paranoia alert, как пишет Док в блокнотике в Inherent Vice): теперь я могу придираться к стилю, как к техническому артефакту. Конечно, читая такие тексты, да еще и от великих людей, я не могу не сомневаться в своей оценке: может быть, это хороший стиль, и клод тут не причем, я просто не понимаю. Вот возвышенные противопоставления, по три в каждом абзаце: “Hobbes was not in love with a certificate; he was in love with having understood.” И миллион случайных отсылок, чёртов Булгаков почему-то и Пушкин – и оба процитированы по-русски (да, Клод упомянут как "помогающий найти и атрибутировать цитаты", конечно, вспомненные самим автором). После каждой ссылки, аллюзии и метафоры их объяснение, как у Нолана, чтобы все уж точно поняли. “The Salieri of 2026 has no need of poison. He has only to be faster”. Людям такое нравится читать, я вижу. Такой стиль триггерит какие-то эстетические железы, заставляет людей повторять: "Какой прекрасный текст!". Руками написанный или клодом, клод-спик нужно нещадно ругать. Великий был прав (цитируя великого): стиль это проблема разрывов, умение недосказать.