OpenAI представил сотни решений задач, над которыми работали десятилетиями — это привело к конфликту с учеными

OpenAI опубликовал сотни математических результатов, полученных с помощью закрытой AI-модели. Среди них — доказательства известных гипотез, новые алгоритмы и продвижение к «задачам тысячелетия». Одни ученые говорят об историческом прорыве, другие опасаются, что корпорации превращают фундаментальную науку в гонку закрытых моделей

📃 От одной до сотен научных работ в день
Месяцем ранее OpenAI объявил о решении задачи Навье-Стокса — одной из семи «задач тысячелетия» с премией $1 млн. Заявление вызвало споры о корректности доказательства и прозрачности исследования. Между тем невыпущенная AI-модель компании продолжала решать другие задачи

6 октября на GitHub выложили 722 работы, объединенные в 372 семейства результатов. В одно семейство могут входить основное доказательство и связанные работы. Работы охватывают теорию чисел, геометрию, алгебру, логику и теоретическую информатику. По оценке независимой группы AGMAI, они содержат решения сотен открытых вопросов, но не все результаты проверены

💡 Самый громкий результат касается гипотезы Римана о распределении простых чисел
OpenAI не доказал гипотезу, но представил сильный результат для более узкого утверждения о дзета-функции Римана. Профессор Ратгерского университета Алекс Конторович сравнил значимость этого результата с достижением, достойным Филдсовской премии. Есть также частичный прогресс по гипотезам Ходжа и Берча — Свиннертона-Дайера, но полного решения ни одной из этих «задач тысячелетия» пока нет

Кроме того, компания заявила о доказательстве гипотезы уникальных игр (Unique Games Conjecture) из теоретической информатики. Она позволяет установить, насколько близко алгоритмы способны подойти к оптимальному решению чрезвычайно сложных задач. Подтверждение доказательства уточнило бы фундаментальные пределы эффективности вычислений. Другие работы затрагивают квантовые вычисления и математическую физику. По оценке исследователя Скотта Ааронсона, отдельные результаты могли бы стать открытиями года в своих областях

💰 Решения стали требовать гораздо меньше ресурсов
В сентябре доказательство для задачи Навье-Стокса потребовало работы около 10 тыс. AI-агентов и миллионов долларов на вычисления. Новую серию работ OpenAI получил главным образом с помощью одной внутренней AI-модели. В компании утверждают, что почти все результаты были получены одним агентом по одному запросу на задачу, хотя иногда требовалось несколько попыток. По оценке OpenAI, средний результат требовал вычислений, эквивалентных трем часам размышлений ChatGPT Pro. Модель протестировали примерно на 4 тыс. задач, отобрав для публикации наиболее значимые результаты

Если данные подтвердятся, сложные математические исследования станут значительно доступнее. Но независимо повторить эксперимент пока нельзя: AI-модель закрыта, исходные запросы не опубликованы. Математик MIT Эндрю Сазерленд призывает считать заявления об открытиях «с одной попытки» непроверенными до появления такой возможности

🤔 Математики не всегда понимают доказательства от AI
Для примерно 42% работ OpenAI опубликовал доказательства на языке программирования Lean, который позволяет компьютеру проверить каждый шаг математического рассуждения. Такие доказательства уже прошли автоматическую проверку на логические ошибки. Для остальных результатов аналогичная проверка пока не опубликована, поэтому в них могут оставаться ошибки. Но даже подтвержденная компьютером правильность доказательства еще не означает, что ученые понимают предложенный метод и могут оценить его научную новизну

Исследователь Дана Мошковиц, много лет изучавшая гипотезу уникальных игр, обнаружила в AI-доказательстве путаные ссылки, необъяснимые переходы и необычные конструкции. По ее словам, текст настолько трудно читать, что приходится просить другую AI-модель собрать аргументы из разных его частей. При этом Мошковиц отмечает, что доказательство использует совершенно новую и весьма необычную конструкцию кода. Именно такие идеи могут оказаться самостоятельными открытиями, которые математикам еще предстоит изучить и понять

😱 «Математический апокалипсис»: как ученые переживают происходящее
Исследователь Скотт Ааронсон назвал произошедшее Mathocalypse — математическим апокалипсисом. В своей публикации он описывает целый спектр эмоций научного сообщества: от восхищения новыми возможностями до тревоги из-за того, что цели многолетних исследований внезапно достигаются машиной. Так Мошковиц посвятила значительную часть карьеры гипотезе уникальных игр. Предполагаемое доказательство подтверждает ее уверенность в истинности гипотезы. Но исследовательская задача оказалась решена без ее участия. Похожую ситуацию теперь переживают специалисты сразу во многих областях математики и теоретической информатики

Научное исследование традиционно предполагает не только получение ответа, но и понимание пути к нему. Именно в процессе поиска возникают новые методы, связи между дисциплинами и направления дальнейшей работы. Математик словно оказывается мгновенно перенесенным на вершину горы, не зная маршрута восхождения. Он видит конечную точку, но не понимает, как она связана с окружающим ландшафтом. Теперь ему предстоит восстановить этот маршрут — возможно, используя ту же машину, которая перенесла его наверх

😡 Математическое сообщество конфликтует с OpenAI
После сентябрьского объявления о задаче Навье-Стокса OpenAI столкнулся с резкой критикой. Более двух десятков лауреатов Филдсовской премии подписали открытое письмо, предупреждая, что гонка AI-компаний за математическими результатами может подорвать саму сущность исследовательской деятельности. В ответ OpenAI поддержал создание независимой Консультативной группы по математике и AI — AGMAI, в которую вошли ведущие ученые. В конце сентября группа представила рекомендации по публикации AI-исследований

В октябрьской публикации работ OpenAI выполнил малую долю требований ученых. Они отмечают, что AI-модель так и осталась недоступна исследователям, исходные запросы не раскрыты, а вместо подробных вычислительных затрат на каждую задачу приведена преимущественно усредненная оценка. Компания также отказалась следовать рекомендации AGMAI, продолжив проверять самые сложные математические задачи на закрытых моделях

Тристан Бакмастер из Нью-Йоркского университета предполагает, что некоторые AI-результаты могут опираться на существенный вклад математиков, которые ранее работали над этими задачами или формулировали запросы к модели. В таком случае возникает вопрос, кому принадлежит заслуга в завершении доказательства и как корректно признавать вклад человека. Ассоциация Association for Human Mathematics назвала выпуск более 700 файлов демонстрацией корпоративной силы, а не полноценной научной работы. Она призвала математиков отказаться от сотрудничества с OpenAI и вернуться к модели исследований, в центре которой находится человеческое понимание

⛓️ Прогресс AI в математике заставил криптоиндустрию заговорить о безопасности
Исследователь Ethereum Джастин Дрейк предупредил, что развитие AI способно создать угрозу для алгоритма цифровой подписи ECDSA — его используют для защиты криптовалютных кошельков. AI может найти новые математические методы, позволяющие атаковать криптосистемы. Ранее основной долгосрочной угрозой таким системам считались квантовые компьютеры, теперь речь идет об AI

Сооснователь Ethereum Виталик Бутерин поддержал необходимость серьезно относиться к этим рискам. Он предупредил, что AI может поставить под сомнение устойчивость самых защищенных криптографических схем. Дрейк и Бутерин предложили пользователям постепенно переводить криптоактивы на новые адреса, публичные ключи которых еще не раскрывались