В статьях NeurIPS нашли сотни выдуманных ссылок😃

На одной из главных ИИ-конференций мира обнаружили более 100 подтверждённых фейковых цитат в 51 работе. Нейросети выдумывали названия исследований, приписывали реальным ученым несуществующие работы и генерировали фейковые DOI. При этом данные статьи успешно прошли жесткий отбор и рецензирование, обойдя тысячи конкурентов.

Для описания этого феномена даже появился новый термин vibe citing (вайб-цитирование). LLM не выдумывает источники целиком, а комбинирует фрагменты реальных: авторов от одной статьи, название от другой, год от третьей. На первый взгляд нормальная ссылка, а при проверке несуществующая публикация. Эксперты связывают проблему с колоссальным ростом количества заявок (+220% с 2020 года). Система peer-review просто не справляется с цунами сгенерированного контента, и рецензенты физически не успевают проверять каждый источник.

🥸 godnoTECH - Новости IT