​​Искусственный интеллект разрушает науку
Когда мы передаем обзор литературы алгоритмам, мы теряем целые области знаний.
Авторы Майя По и Дилан Б. Драйер

Статья Майи По и Дилана Б. Драйера предупреждает о малозаметной, но серьезной угрозе академической науке, связанной с использованием генеративного ИИ при подготовке научных статей. Авторы называют ее «пропущенным звеном» (missing middle).
Суть проблемы: ИИ способен быстро сформировать внешне убедительный обзор литературы, но часто строит его по схеме: несколько фундаментальных работ 1980–1990-х годов → сразу множество самых свежих публикаций 2023–2026 годов. При этом огромный пласт исследований, выполненных между этими периодами, оказывается практически невидимым.
Причина, по мнению авторов, связана с особенностями доступа ИИ к научной информации: модели лучше «видят» открытые материалы, препринты и недавно опубликованные статьи, тогда как значительная часть качественной академической литературы находится за издательскими paywall. В результате ИИ создает иллюзию полноценного обзора, хотя фактически не прослеживает эволюцию научной области.
Это приводит к нескольким последствиям:
Теряется история развития научных идей. 
Обедняется научное мышление. 
Искажается представление о научных пробелах. 
Страдают исследователи. 
Получают дополнительную видимость хищнические журналы
Отдельная проблема возникает в разделе Discussion. Хороший исследователь сопоставляет собственные результаты с конкретными предыдущими исследованиями, показывает, что именно подтверждено, опровергнуто или дополнено. ИИ-генерированные статьи часто вместо этого просто повторяют результаты, перечисляют ограничения исследования и предлагают «будущие исследования». То есть исчезает главное — интеллектуальный диалог с предшествующей наукой.
Обзор литературы — это не формальная часть научной статьи и не список цитат. Это интеллектуальная работа по восстановлению траектории развития научного знания. Именно благодаря чтению большого количества исследований человек способен увидеть связи, противоречия, забытые результаты и понять, действительно ли предлагается что-то новое.
Поэтому авторы не призывают просто запретить ИИ в академическом письме. Их позиция: нельзя передавать машине сам процесс осмысления научной литературы.
Опасность GenAI для науки может заключаться не столько в очевидных «галлюцинациях» или стилистически плохом тексте, сколько в систематическом искажении структуры научного знания.
ИИ способен сделать научную статью более гладкой, убедительной и современной на вид — одновременно сделав ее интеллектуально беднее. Если эта практика станет массовой, возникает риск своеобразной «машинной эрозии» науки: новые поколения исследователей будут опираться на литературу, уже предварительно отфильтрованную алгоритмами, и постепенно перестанут видеть значительную часть реальной истории своей дисциплины.
Иными словами: проблема не в том, что ИИ плохо пишет обзоры литературы. Проблема в том, что он может незаметно изменить саму карту того, что считается научным знанием.
Читать 5мин