OpenAI уволила нескольких подрядчиков за использование ИИ при обучении ИИ 🤯

Компания привлекает тысячи специалистов для оценки ответов моделей. В рамках этих проектов подрядчики работают с реальными запросами пользователей, оценивают ответы ChatGPT и оставляют комментарии, которые затем используются для улучшения моделей.

При этом самим специалистам использовать нейросети запрещено. Согласно внутренним документам OpenAI, под запрет попадают не только генераторы текста, но и Grammarly, ИИ-переводчики и даже инструменты для обнаружения ИИ.

За соблюдением правила следят другие подрядчики. Им рекомендуют обращать внимание на повторяющиеся слова, характерную для ИИ пунктуацию и слишком быстрое выполнение заданий. При этом использовать GPTZero и другие AI-детекторы тоже нельзя – в OpenAI считают их ненадёжными.

Причина такого запрета не только в соблюдении рабочих правил. Если использовать сгенерированные нейросетью тексты для дальнейшего обучения моделей, существует риск так называемого «коллапса модели» – постепенной потери качества и разнообразия результатов.

404 Media поговорило с несколькими подрядчиками. Двое рассказали, что людей действительно отстраняли от проектов после обнаружения использования ИИ.

А один из собеседников признался, что иногда намеренно выбирал худшие ответы при обучении моделей. Он объяснил это желанием саботировать их обучение и добавил, что не знает, насколько сильно такие действия могли повлиять на итоговый результат.