OpenAI уволила нескольких подрядчиков, которых наняла улучшать ответы своих моделей, за то, что они делали эту работу... с помощью нейросетей. Об этом пишет 404 Media, которое получило внутренние документы компании и поговорило с тремя подрядчиками. По одному из документов, в таких проектах могут участвовать больше 10 000 человек. Один из собеседников рассказал, что в его группе из 1000 коллег некоторые попадаются на использовании ИИ.

Ряд ИИ-моделей показывают признаки коллапса, при котором обучение на данных от более ранних нейросетей постепенно съедает качество, вариативность и точность. Тот же документ требует от подрядчиков работать без нейросетей. Проверяющие не могут трогать даже Grammarly и ИИ-переводчики, когда пишут отзывы и комментарии.

Ловить нарушителей детекторами тоже нельзя, GPTZero и его аналоги компания считает ненадёжными. Проверяющие ищут повторяющиеся слова, пунктуацию в стиле ИИ и слишком быструю сдачу работы и оценивают общую картину. Сообщать подрядчику о подозрениях OpenAI не рекомендует, чтобы тот не узнал, по каким признакам его вычисляют, и не научился их прятать.