В научном мире главными бенефициарами ИИ стали ученые, желающие получить больше статей в резюме, ничего для этого не делая, и “бумажные фабрики” - организации, которые за плату пишут и публикуют в журналах работы, обычно очень плохого качества. Если раньше им приходилось беспокоиться о правдоподобности текста и проверках на плагиат, то LLM решили эти проблемы. В результате число ИИ-статей сейчас удваивается каждые 18 месяцев.

Самого плагиата при этом меньше не стало. Стандартный прием ИИ - статьи на основе реальных исследований, использующие те же переменные и делающие те же выводы, что и авторы оригинальных публикаций. Корректируется только выборка: ИИ может ссылаться на другие опросы или менять возраст пациентов. Недавно ученые из Великобритании и Австралии выявили 441 такую статью, опубликованную в 2021-2025 гг. в крупных издательствах. 35% из них были размещены в журналах Frontiers и 37% - в Springer Nature. На самом деле это только вершина айсберга, поскольку подобные статьи сложно обнаружить.

Другой индикатор ИИ-статей - подозрительно низкие показатели при проверке на антиплагиат. Если нормальные статьи обычно имеют 10-15% сходства с другими работами, то поддельные - 2-5%. ИИ избегает любых заимствований в тексте и часто впадает в другую крайность: пытается переформулировать даже общепринятые термины. Результат обычно самый абсурдный - фразы вроде misleading negative (“вводящий в заблуждение отрицательный”) вместо false negative (“ложноотрицательный) или counterfeit consciousness (“поддельное сознание”) вместо artificial intelligence (“искусственный интеллект”).

Еще один показатель - характерные для ИИ фразы, которые “авторы” статей не удосуживаются удалить. В 2024 г. шведские ученые провели поиск в Google Scholar по двум часто встречающимся фразам: “по состоянию на мое последнее обновление информации” и “у меня нет доступа к данным в реальном времени”. В результате они нашли 227 статей, в 139 из которых не было указано, что авторы использовали ИИ при их написании.

Но настоящие проблемы начинаются там, где подделки ИИ распознать не удается. За последние годы он научился выдавать не только текст, но и изображения высокого качества. Если раньше измененные в Photoshop фото можно было отличить с помощью артефактов - визуальных искажений при обработке, то сейчас сгенерированные ИИ картинки часто выглядят очень правдоподобно. Такие изображения, от данных вестерн-блоттинга (метода обнаружения белков) до микроскопических фото наноматериалов, обманывают даже экспертов.

Другая новая проблема - ИИ-рецензирование настоящих статей. Рецензенты журналов начали прибегать к LLM ради упрощения процесса, но им не хватает экспертной глубины, и они часто делают ошибки. В одном из случаев южнокорейский профессор, подавший статью в международный журнал, получил рецензию, которая сильно отличалась от остальных. Она была расплывчатой и шаблонной, некорректно передавала содержание статьи и предъявляла странные претензии: хотя статья была посвящена новому методу оценки окружающей среды, рецензент упрекнул ее авторов в “отсутствии исследований влияния на поведение животных, такое как кормление или спаривание”. Когда профессор сам сгенерировал с помощью ИИ рецензию на свою статью, она оказалась очень похожей.

В чем проблема ИИ-статей для науки?
❇️ Их обилие способно сделать “мусорными” целые направления исследований. Если они приобретут репутацию сомнительных, ученые будут избегать публикации настоящих работ среди вала поддельных.
❇️ ИИ не только воспроизводит результаты других статей. Часто выводы откровенно подложные и не имеют отношения к реальности. Если ученые, например, из фармкомпаний, возьмут их за основу дальнейших исследований, это может навредить пациентам в перспективе.
❇️ Усугубление культуры “публикуйся или умри” - негласного требования постоянно писать статьи, даже если это отнимает время от реальной научной работы. Те, кто ранее отказывался от помощи ИИ в написании статей, будут вынуждены прибегать к ней под давлением массово публикующихся с помощью LLM коллег.