Пятничное. Кто на самом деле читает ваши чаты с ИИ

Наливайте кофе. Сегодня будет коротко, но с осадочком.

Мы привыкли думать, что наш диалог с ChatGPT — это интимная беседа тет-а-тет с бездушным алгоритмом. Спойлер: нет. Там есть третий. И у него порой есть пульс.

OpenAI одновременно держит до 10 000 подрядчиков, которые вручную читают и оценивают ваши переписки. Anthropic на то же самое тратит серьезные деньги. Зачем, если машина и сама справится?

А не справится. Есть такое явление — «крах модели». Если обучать новую нейросеть на текстах, которые сгенерировала старая, она начинает деградировать. Цифровой инцест, если хотите. Поэтому нужен свежий человеческий взгляд. Буквально.

Теперь самое вкусное. Что происходит внутри

- Использовать ИИ для оценки ИИ — запрещено. Увольняют без разговоров.
- У тех, кто проверяет нейросети, есть свои проверяющие. Матрешка.
- И вишенка: есть люди, которые сознательно ставят неверные оценки. Не по ошибке — чтобы модель не умнела. И это не пара фриков, это явление.

И где-то во всём этом мы😂

Вопрос на выходные: если завтра вы узнаете, что ваш последний запрос к нейросети прочитал живой человек и поставил ему оценку — вас это напряжет или уже нет?

Мне вот интересно.

👍 @chupritski 👍