✔️ Курт Гёдель: человек, который доказал, что у логики есть предел

Курт Гёдель сделал для математики XX века то, что Эйнштейн сделал для физики. Его теоремы о неполноте показали неприятную вещь: в любой достаточно мощной логической системе есть истинные утверждения, которые невозможно доказать внутри самой этой системы.

Проще говоря, не существует идеального набора правил, из которого можно вывести абсолютно всю истину. Любая система, способная описывать арифметику, либо неполна, либо рано или поздно приходит к противоречию.

Гёдель видел такие трещины везде. В 1948 году, перед получением гражданства США, он внимательно изучил Конституцию и решил, что нашёл в ней логическую дыру, которая теоретически могла бы привести к диктатуре. На церемонию он пришёл с Эйнштейном и Моргенштерном. Когда судья сказал, что в США диктатура невозможна из-за Конституции, Гёдель уже начал возражать, но друзья быстро перевели разговор.

Этот эпизод идеально показывает его мышление: там, где другие видели обычную процедуру, он видел формальную систему и потенциальную уязвимость.

Позже идеи Гёделя повлияли на Алана Тьюринга и теорию вычислимости. Через неё они дошли до современного AI: языковых моделей, систем автоматического доказательства, формальной верификации и AI safety.

Главный вывод до сих пор неудобен: никакой достаточно мощный интеллект не может быть одновременно полностью непротиворечивым и способным доказать про себя все истинные утверждения. У любой системы есть граница.

Поэтому разговоры о галлюцинациях LLM, проверяемом AI и невозможности создать идеальную самопроверяющуюся машину неизбежно возвращаются к Гёделю. Он не видел нейросетей, но заранее показал предел, в который они тоже упираются.