Можно ли доверить ИИ неопубликованную идею?

История с решением задачи Навье—Стокса интересна не только математическим результатом. На неё можно посмотреть и под другим углом — как на историю о научной конкуренции, приватных данных и о том, что происходит, когда рабочий инструмент исследователя принадлежит компании, которая участвует в той же гонке.

Математик Тристан Бакмастер из NYU и Левент Алпёге из Anthropic почти год работали над одним из направлений в теории уравнений жидкости. Они использовали Claude и OpenAI Codex, причём значительная часть проекта велась именно в Codex. К августу у них появились новые результаты, один из которых прошёл формальную проверку в Lean, но публиковать работу они пока не стали.

1 сентября OpenAI услышала слух, что кто-то решил две задачи тысячелетия, и решила проверить на них новую внутреннюю модель. Компания запустила тысячи агентов, а через несколько дней получила решение задачи Навье—Стокса. Только на неё ушло около 130 миллиардов выходных токенов.

К этому моменту OpenAI уже знала о неопубликованной работе Бакмастера и Алпёге. 3 сентября Бакмастер написал исследователю OpenAI и сообщил, что у них есть результат, который скоро будет опубликован. В ответ ему написали, что, если он готов поделиться деталями, это помогло бы OpenAI не конкурировать с ними в этом направлении, и предложили вычислительные ресурсы.

Позже выяснилось, что решение OpenAI идёт через близкое направление со smooth forcing. Сам подход не был секретом и продолжал уже опубликованные работы других математиков, но совпадение заставило Бакмастера спросить, могла ли модель использовать данные из их работы в Codex.

OpenAI утверждает, что исследователи и агенты не видели их материалов до публикации и что пользовательские данные специально для решения задачи не извлекались. При этом компания не исключает, что обезличенные данные от использования её продуктов могли участвовать в общем улучшении моделей.

Поэтому говорить, что OpenAI «украла доказательство», оснований пока нет. Но возникает более общий вопрос. Исследователь может месяцами обсуждать с frontier-моделью гипотезы, промежуточные результаты и неопубликованные идеи. Для него это ассистент и рабочая среда. Но эта среда принадлежит компании, которая способна сама войти в ту же научную гонку и направить туда вычислительные ресурсы, недоступные отдельной академической группе.

Есть в этой истории и второй вопрос — авторство. По версии Бакмастера, ему предложили участвовать в публикации результата OpenAI без Алпёге, поскольку тот работает в Anthropic. Себастьян Бубек, математик и исследователь OpenAI, позже возразил: речь шла не об исключении Алпёге из их собственной работы, а об отдельной статье с доказательством OpenAI.

Но если значительную часть доказательства действительно построили тысячи агентов, кто в таком случае автор результата? Современные правила научных журналов отвечают довольно формально: ИИ автором быть не может, потому что авторство предполагает не только вклад, но и ответственность за работу. Пока модель помогает искать литературу, писать код или проверять выкладки, это не вызывает особых вопросов. В случае с Навье—Стоксом граница уже менее очевидна: агенты исследовали разные подходы, обменивались промежуточными результатами и объединяли найденные идеи, а люди организовали процесс, направляли поиск и проверяли результат.

Получается, что система может внести основную часть содержательного вклада и при этом не иметь права на авторство, а авторами остаются те, кто организовал процесс и готов отвечать за итог. Возможно, привычное понятие авторства не приспособлено к исследованиям, где интеллектуальная работа распределена между людьми и автономными агентами. Тогда придётся отвечать хотя бы на три вопроса: кто сделал открытие, кому принадлежит приоритет и кто несёт ответственность за результат.

И история с Навье—Стоксом показывает, что вместе с научными агентами придётся заново договариваться не только о возможностях ИИ, но и о более старых вещах — конфиденциальности, конкуренции и авторстве.

https://openai.com/index/navier-stokes-solution/