Ведущие математики заявляют об опасностях нейросетей. Двадцать пять лауреатов медали Филдса (высшая международная награда для математиков) опубликовали открытое письмо о том, что цели разработчиков LLM сильно расходятся с целями научного сообщества.

За последние несколько месяцев математические возможности больших языковых моделей резко возросли. Но, как говорится в письме, стремление ИИ-компаний решать математические задачи наносит вред науке и научному сообществу. Без математиков, которые должны позаботиться об интеграции идей в математический канон, идеи от нейросетей никогда не станут «полностью живыми». При этом может разрушиться важнейшая человеческая цепочка передачи между математиками. Авторы подчеркивают, что с похожими проблемами сейчас сталкиваются другие отрасли науки и творческие профессии.

Одной из причин появления письма стали громкие заявления OpenAI о том, что их нейросеть решила проблему существования и гладкости решений уравнений Навье—Стокса. Однако вскоре профессор математики Нью-Йоркского университета Тристан Бакмастер заподозрил компанию в недобросовестном использовании наработок его совместного с математиком Anthropic Левентом Алпёге проекта. Одна из ключевых претензий к предложенному решению — помимо авторства и необходимости перепроверки — в том, что оно опиралось в том числе на механический перебор человеку недоступный.

«Решение задач — только инструмент и показатель достижения основной цели, которой являются концептуальное понимание и новые идеи» — указывают авторы письма.
Наверное, настало время вспомнить, почему в науке (да и в творческих профессиях) ценятся не только результаты, но и подходы, и методы.

ИИ обещает мгновенные решения и результаты, и масштабные изменения во многих областях, включая математику. Но, как пишут авторы:

«Принесут ли эти изменения пользу данной области или окажут на неё разрушительное воздействие, во многом будет зависеть от решений людей, управляющих этой новой технологией»