Журнал Science посвятил редакторскую статью с говорящим названием "Прогрессия без прогресса" теме внедрения искусственного интеллекта в научные исследования. Редакторы отмечают, что технологии ИИ развиваются стремительно и автоматизированные конвейеры «сквозной науки» (когда ИИ предлагает набор гипотез и затем сам же их проверяет на практике) становятся всё более реалистичной перспективой.

Однако авторы статьи выражают глубокую обеспокоенность, высказывая опасение, что оптимизация научного процесса может разрушить его эволюционную природу. Наука, как они отмечают, движется вперёд благодаря «неэффективности»: избыточным усилиям, множеству независимых попыток, неудачным экспериментам и расходящимся путям (а также ложным гипотезам и даже мошенничеству). Все перечисленные элементы являются не проблемами, которые нужно устранять, а источниками новых открытий.

Внедрение ИИ отсекает все эти источники научных открытий, кроме того, ограниченное число доминирующих платформ, обученных на пересекающихся данных, будет формировать большую часть научного продукта, монополизируя научные исследования.

Особое беспокойство вызывает то, что современный ИИ силён в комбинаторном исследовании — перегруппировке существующих знаний, но не в концептуальных разрывах. Многие значимые прорывы в науке нарушают прежние допущения и не выводятся из данных, на которых обучались модели. Поэтому массовая автоматизация рискует не только сузить спектр открытий, но и изменить саму способность науки порождать неожиданное.

Редакторы цитируют Карла Поппера, который писал, что научные исследования можно рассматривать как часы, т.е. механизм, который состоит из взаимосвязанных шестерёнок, но наука как явление — это облако, чьё поведение возникает из сложных, нелинейных взаимодействий. Оптимизация исследований не гарантирует целостности целого — напротив, она может её подорвать.

А я бы тут вспомнил русского философа Николая Данилевского, писавшего, что задача исторического развития состоит не в том, чтобы линейно двигаться по одной прямой, а в том, чтобы исходить всё поле, перебрав все возможные варианты, и к науке это тоже относится.