Почему следующим рубежом AI станет формальная философия

Мы живем в удивительное время. Современные AI-агенты пишут код, генерируют сложные архитектурные драфты и, как мы уже обсуждали, способны автоматически доказывать теоремы в системах вроде Isabelle/HOL. Глядя на это, легко поддаться иллюзии, что до AGI осталось сделать буквально пару шагов.

Но на фоне этого великолепия нейросети продолжают феерически проваливаться на задачах, требующих банальной житейской смекалки — того, что Франсуа Шолле называет способностью к обобщению и адаптации (On the Measure of Intelligence).

Спросите передовую LLM, как налить чай в кружку, у которой запаян верх и отсутствует дно. Модель с умным видом начнет объяснять, что это топологически невозможно, представляя себе некую нерабочую трубу с заглушкой. Она не способна понять очевидную для любого ребенка вещь: это просто перевернутая кружка.

Или задайте вопрос: «Как лучше добраться до автомойки — поехать на машине или пойти пешком?». Алгоритм начнет взвешивать плюсы пешей прогулки для здоровья, забыв, что мыть пешехода на автомойке — так себе идея.

Синтаксис без семантики
В чем фундаментальная проблема? LLM — это виртуозные статистические машины. Они блестяще оперируют синтаксисом, выстраивая вероятностные цепочки токенов, но у них нет семантики реального мира.

У них нет концептуального понимания того, что такое «емкость», «пространственная ориентация» или «целеполагание». Сегодня главным узким местом технологического прогресса стала не вычислительная мощность, а способность алгоритма с полуслова понимать человека, его интенции и физические ограничения среды.

И здесь на сцену выходит дисциплина, которую инженеры традиционно (и ошибочно) считали максимально оторванной от реальности — формальная философия.

Оцифровка «здравого смысла»
Речь не о пространных рассуждениях о смысле жизни. Формальная философия — это строгий математический и логический аппарат для описания того, как устроен мир и наше знание о нем. Чтобы преодолеть этот «семантический барьер», нам потребуются конкретные разделы этой науки:

— Формальная онтология и мереотопология (теория частей, целого и границ). Как объяснить машине, что такое объект в пространстве? Кружка — это не просто набор токенов. Это физический объект, свойства которого зависят от его ориентации (гравитации). Без строгой онтологии пространства модель всегда будет путать перевернутую кружку со сломанной трубой.
— Эпистемическая и модальная логики. Аппарат для работы с концептами «знание», «необходимость» и «возможность». Это база для понимания намерений человека. Почему мы едем на автомойку? Логика позволяет выстроить строгую каузальную цепочку и принять, что пешком идти логически бессмысленно.
— Формальная прагматика. Переход от анализа слов к вычислению контекста. А как мы помним: контекст — это всё.

От гуманитарной рефлексии к системной инженерии
Попытки оцифровать «здравый смысл» (common sense) провались. Проекты вроде Cyc Дага Лената, пытавшиеся вручную описать миллионы логических правил, захлебнулись в собственной сложности. Здравый смысл оказался слишком гибким для классического программирования.

Но сегодня, когда у нас есть мощные нейросети, способные парсить неструктурированные данные, мы подошли к точке, где формальная философия превращается в прикладную инженерную дисциплину. Точно так же, как теория графов когда-то легла в основу маршрутизации сетей, аппарат формальной философии ляжет в основу World Models (моделей мира) для следующего поколения ИИ.

Мы больше не можем полагаться на то, что модель «выучит» физику и логику, просто прочитав весь интернет. Статистика пасует перед out-of-distribution задачами, где нужен дедуктивный вывод на основе свойств физического мира.

Чтобы перейти от блестящих имитаторов (стохастических попугаев) к агентам, способным надежно, предсказуемо и безопасно оперировать в реальном мире, нам придется научить машины философии. И тот, кто первым создаст масштабируемый, вычислимый аппарат для формализации здравого смысла, определит архитектуру следующей эпохи.