arXiv начал банить авторов на год за непроверенные ИИ-тексты

Томас Дитерих, руководитель раздела computer science на arXiv, сформулировал это просто: если в препринте есть неопровержимые следы того, что авторы не проверили результат языковой модели — доверять нельзя ничему в этой статье. Не конкретному абзацу. Всей статье.

Доказательствами «халатности» считаются два артефакта: галлюцинированные ссылки на несуществующие работы и незачищенные фрагменты диалога с моделью прямо в тексте. То есть кто-то опубликовал препринт, не удалив из него «Конечно! Вот ваш параграф о квантовой запутанности».

После бана все последующие препринты автора обязаны сначала пройти рецензирование в признанном журнале. Использование ИИ как инструмента не запрещено — запрещено снимать с себя ответственность за результат.

Прогресс, в общем.

@your_tech (теперь ещё в VK и Max)