👨‍⚕️Представьте, что вы учёный, посвятивший всю жизнь борьбе с раком. Встретив в уважаемом издании исследование, которое цифрами подтверждает эффективность ромашкового чая в профилактике онкологии, вы ищете лабораторию, команду, финансирование, чтобы разгадать секрет трав. Но через месяц выясняется, что статья поддельная — никакого исследования не проводили, а графики придумал и нарисовал чат-бот.

Конечно, мы утрируем, всё несколько сложнее, но проблема вполне реальна: почти каждый элемент научной статьи теперь можно быстро сгенерировать, а диаграммы и изображения клеток и молекул, созданные ИИ, порой невозможно отличить от настоящих.

Журнал Nature уже бьёт тревогу, обсуждая, как выявлять фейки. За 2023 год было отозвано 10 тысяч статей — в два с половиной раза больше, чем годом ранее (4 тысячи). Среди них были и созданные с помощью ИИ. Мошенничество уже затронуло многие сферы науки: от экологии до биомедицины. Статью публикуют, читают по всему миру, по ней учат студентов, на неё ссылаются в добросовестных работах. Но выявление подлога приводит к каскадному эффекту и сотням изъятий из других публикаций.

🕵 Появился даже класс учёных-«сыщиков» — в свободное время они анализируют публикации, проверяют данные и изображения, чтобы находить подделки. По их словам, проблема не столько в ИИ, сколько в перегибах системы оценки учёных по уровню цитирования. Именно это приводит к появлению «бумажных фабрик» — организаций, которые за плату пишут фальшивые статьи и доводят их до публикации.

Для выявления подделок многие издательства уже используют специализированное ПО на основе нейросетей. Но пока оно не даёт полной гарантии: со временем обман раскрывается, и репутация недобросовестного автора разрушается. Однако к тому моменту прошедший в печать фейк успевает нанести вред науке, а главное — доверию к ней.