Что объединяет прошлые два поста про китайского фермера и просьбу для популярных нейронок назвать случайное число от 1 до 30 с ответом "17"?

Несколько дней назад независимый исследователь 360 раз спросил четыре ИИшки выдать число от 1 до 100 (без слово "случайное"), каждый раз в новом чате. Из ста чисел модели назвали всего 13, на 42 и 47 пришлось четыре ответа из пяти. Обычный программный генератор случайных чисел на те же 360 запросов выдал все сто!

Языковая модель ничего не выбирает и не любит. Она дописывает текст так, как скорее всего дописали бы люди, а знание о людях берется из корпуса текстов, на которых модель обучена. Какое число встречается в таком контексте чаще – такое и будет ответом.

Это не предвзятость, которую починят настройкой. Слово "случайное" в запросе в том же замере расширило набор с пяти чисел до тринадцати, лидер остался тот же. Модели не врут и не галлюцинируют, они так устроены, просто выдают следующий наиболее вероятный токен (токен – слово или кусок слова). Равных шансов у чисел нет, у одного из чатов лидер забрал больше девяти ответов из десяти.

Та же природа везде, где нейронке доверяют что-то выбрать. В свежем исследовании модели составляли тесты с вариантами ответов вида "какой ответ правильный – А,Б или В?", одна из них больше чем в половине случаев ставила правильный ответ на одну и ту же букву вместо честной четверти. Сама породить случайность модель не умеет, зато с ней работает, если число дать снаружи, кодом или генератором. При этом модель легко напишет код генератора случайных чисел по запросу (но это будет дороже в токенах).

Современный ИИ – это идеальная машина генерация того, что хочет услышать сферический усредненный по выборке из всего человечества индивид. Миллионеры едят мясо, а я – капусту, но в среднем мы все едим голубцы.

Замер 360 запросов: https://nicolassitter.com/research/ai-random-number-2026
Исследование про случайные числа у нейронок: https://arxiv.org/abs/2601.05414