Что там, за горизонтом?

Первая часть здесь

Профессор информатики Дана Мошковиц много лет работала над гипотезой об уникальных играх. 6 октября доказательство этой гипотезы оказалось среди 700+ работ закрытой модели OpenAI. Дана открыла 58 страниц и написала мужу: “Такое ощущение, что это писал человек под психоделиками”.

На следующий день она в основном разобралась. Помогла GPT-6 Astra: собрала ключевые утверждения, разбросанные по всей статье. Без ИИ, призналась Дана, читать этот текст невозможно.

Дане хватило дня. Но она знает эту гипотезу как мало кто в мире, и даже ей помогала машина. А что, если однажды ИИ принесет работу, в которой не разберется никто – ни за день, ни за год?

Такое может случиться не только в математике – в любой науке, в коде, в статистике и даже в творчестве: просто будет результат, который работает, но почему – человек не понимает. Это один из главных вопросов вокруг ИИ, и точного ответа нет ни у кого. Я тоже его не дам, но попробую показать направление.

В 2016 году компьютер решил задачу о пифагоровых тройках – безо всяких нейросетей, перебором. Доказательство весит 200 терабайт, человек его никогда не прочтет. Никого это не беспокоит, результат признан: это перебор, а не идея, и его перепроверила другая программа.

Вопрос понимания неожиданно превращается в вопрос доверия. Мы с вами каждый день пользуемся навигацией и банковскими приложениями, не зная, как они устроены. Математики, физики, статистики давно запускают сложнейший софт, а эксперименты проводят с помощью сотен приборов – без них современная наука просто не существовала бы. Теперь мы учимся жить с наукой, в которой появился новый мощный инструмент – ИИ. Это реально, но сложно.

Работу приборов и программ можно проверить, ошибки в них – найти и исправить. ИИ – недетерминированная система: на один и тот же вопрос он три раза ответит по-разному. И настраивают его не по спецификации, а уговорами. В прошлом посте я показал промпт, который OpenAI давала модели для решения задач: аж два предложения, одно из которых звучит как “давай, чувак, ты справишься, верим в тебя!”.

Но современные ИИ-агенты давно уже не голые нейросетки – они все больше сдвигаются к тому, что называют нейросимвольными системами. Ядро – модель, она отвечает за поиск информации, генерацию и перебор идей, а расчеты отдает коду, который сама пишет и запускает. Код детерминирован: корректность его работы можно проверить тестами, а результаты – другим кодом.

Параллельно с нейросетями в математике идет другой, пусть и менее заметный, бум – формальных верификаторов, вроде Lean. Это программа, которая механически проверяет каждый шаг доказательства, записанного на строгом языке, – и ей все равно, кто автор.
Современные ИИ уже умеют проверять себя через Lean – фактически, еще один контур в нейросимвольной системе.

И да – в проверку через Lean тоже может закрасться ошибка, как и в предыдущие этапы. Это не гарантия, а дополнительный этап. Ошибки можно исправлять, доказательства уточнять и упрощать, инструменты совершенствовать – то же самое, чем наука занималась раньше.

Главная трудность – время. Я слежу за реакциями ученых на публикацию OpenAI, там разные мнения, но часто слышу одно – еще пару лет назад любую из этих работ сообщество обсуждало бы месяцами. Сейчас работ выложили 700 – и это только начало. 

Получается, что нам нужно учиться доверять системе, которая меняется за месяцы, а скоро будет – за недели. Это сложно и рискованно.

Но доверие не отменяет любопытства. Дане можно было не открывать те 58 страниц: доказательство ее гипотезы уже проверил Lean. Она все равно села разбираться – и написала мужу, что у “инопланетян” (так она называет ИИ) есть чему поучиться. Это и есть другая чаша весов: возможность заглянуть туда, за горизонт знаний.

—
Напоминаю, что вчера у меня вышел подробный гайд по OpenAI dot – новому ИИ-ассистенту, который работает 24/7. Я показываю устройство “точки”, рассказываю, как через нее получить безлимитную GPT-6, делюсь лайфхаками и разбираю чужой опыт.

— Читать на “Бусти”
— Читать на Sponsr