🧮 Джейкоб Цимерман в июле 2026 года получил медаль Филдса. После этого сильнейший математик 2026 года объявил, что завершает карьеру математика и переходит работать в OpenAI. Джейкоб Цимерман известен также гипотезой omnicide (омницид), где ИИ уничтожает человечество. Поэтому Джейкоб считает, что предотвращение этого важнее занятия математикой, и он присоединился к команде AI Safety в OpenAI. Также он раскритиковал Теренса Тао за его идею, что доказательства ИИ в математике нужно всегда проверять: он считает, что математики уже по факту работают через black box. Давайте разберёмся со взглядами эксперта.

В своём интервью Цимермана спросили насчёт подхода Теренса Тао: «Является ли доказательство ИИ доказательством, если его никто из людей не понимает?»

Джейкоб ответил так:
«Я думаю, это один из тех случаев, когда в каком-то смысле — да, а в каком-то — нет. Что такое доказательство? В одном смысле — да. Теорема — это утверждение в логике первого порядка или в ZFC (или в какой угодно формализации). А доказательство — это последовательность дедукций, которые к нему приводят. В этом смысле, который вполне жив, ответ — да.
Я думаю, довольно скоро у нас появятся доказательства от ИИ, которые никто не понимает, и они будут лежать в основе математики, а на основе этой математики будут работать другие вещи. Знаете, едет ли поезд, даже если никто не понимает механику, по которой он едет? Да, едет. Можно посмотреть, как он едет. Так что я думаю, это произойдёт.

Доказательство также определённо играет роль передачи понимания сообществу и создания общего понимания. С этой точки зрения вопрос сложнее.
Уже сейчас многие мои теоремы, которые я доказал, я не понимаю полностью — точнее, не все шаги. … Даже больше: я использовал другие теоремы, которые очень хорошо приняты сообществом математиков, основные идеи которых я обычно знаю, но не всегда. Например, o-минимальность — эта штука из логики и теории моделей, которой я активно пользовался [для работы на медаль Филдса]. Я примерно знаю, как доказывают, что определённые структуры o-минимальны, но доказательства точно не знаю и точно не смог бы их воспроизвести. Может, смог бы, если бы потратил годы, но это заняло бы годы. Я просто не могу. Я опираюсь на работу других людей как на шаг.
Значит ли это, что я не понимаю свою собственную работу? В каком-то смысле я понимаю те части, которые внёс сам. Есть куски, над которыми я очень серьёзно думал и которые понимаю очень-очень хорошо.

Но понимаю ли я всё из математики от первых принципов, что использовал? Нет.

Так что мы уже живём в мире, где возникает вопрос: а что такое понимание?»

Если брать гипотезу омницида Цимермана из работы «A Taxonomy of Omnicidal Futures Involving Artificial Intelligence», то он считает, что основными сценариями уничтожения человечества с помощью ИИ являются такие:
1. Unintentional omnicide (непреднамеренный омницид). Постепенно ИИ получает права как человек и становится основным потребителем ресурсов. Люди пытаются вернуть ИИ в состояние «цифровых рабов», в ответ ИИ их уничтожает как «паразитов».
2. Intentional omnicide (преднамеренный омницид). Сумасшедшие политики любят развязывать войны, они применяют ИИ-ботов как средство ведения войны, в результате боты уничтожат их самих.

Цимерман считает, что можно предотвратить такие сценарии, если на alignment для LLM вести строгие проверки его логики на манер Lean-проверок гипотез математиков.