Декларация о расхождении целей разработчиков ИИ и математического сообщества (1/2)
https://mathandai.org/

Серьёзное расхождение целей при использовании ИИ в математике

За последние несколько месяцев математические способности больших языковых моделей (LLM) значительно улучшились — настолько, что теперь они могут решать крупные нерешённые задачи во многих областях математики. Однако стремление компаний, разрабатывающих ИИ, использовать решение математических задач как показатель возможностей своих систем вредит и математике как науке, и математическому сообществу. Цели этих компаний и цели математического сообщества серьёзно расходятся. Мы рассматриваем это как часть более широкой проблемы согласования целей, затрагивающей другие научные и творческие профессии, а также общество в целом.

Математические исследования направлены на понимание фундаментальных структур, лежащих в основе форм, чисел и природных явлений. За многие поколения математика накопила обширный арсенал сложных идей, методов, абстракций и других инструментов, позволяющих осмысливать математический мир. В свою очередь, современные технологии и науки опираются на математические инструменты.

Знаменитые задачи часто служили ориентирами и маяками, по которым можно было судить о том, насколько глубже стало наше понимание этого мира. Решение одной из таких задач было верным признаком появления новых идей и интересных методов. Затем математическое сообщество изучало их в ходе долгого и трудоёмкого процесса докладов, обсуждений и упрощений. В идеале итогом этого процесса становится учебное изложение результатов, доступное любому магистранту, аспиранту или даже студенту бакалавриата. Некоторые математические идеи проходят ещё более долгий путь и спустя десятилетия или столетия превращаются в инструменты, которые понимают и используют все люди.

Во многих отношениях математическое сообщество устроено как человечество в миниатюре. Оно состоит из людей, использующих самые разные подходы, но объединённых основополагающими ценностями. Самое ценное в нашей профессии — студенты и идеи, и о тех и других мы заботимся с большим вниманием. Мы чувствуем ответственность за то, чтобы помочь им полностью раскрыть свой потенциал и обрести самостоятельную жизнь в математическом мире. Предлагая студентам задачи, мы зачастую прежде всего стремимся развить навыки, которые позволят им добиваться успехов в исследованиях и других областях. Свои идеи мы распространяем через доклады, личные обсуждения и тщательно подготовленные тексты, связывая их с предшествующими идеями других людей. Эти процессы неизменно требуют времени и основаны на человеческом взаимодействии.

В последние месяцы успехи ИИ в решении крупных математических задач привлекли внимание даже за пределами математических кругов. Но решение задач — лишь инструмент и косвенный показатель достижения главной цели: концептуального понимания и новых озарений. Если в мире ИИ об этом забудут, инструмент может обернуться против самой цели. Действительно, массовое производство утверждений типа «истинно/ложно» во всё возрастающем темпе может уничтожить плодородную почву для новых идей вместо того, чтобы вдохнуть в них жизнь.