Случайности не случайны

Попросите LLM назвать случайную цифру от 0 до 9. Скорее всего, она назовет 7. 🎰

Довольно забавный баг.

Когда мы пишем “назови случайную цифру”, кажется, модель должна выбрать число с вероятностью 10%. Но это работает не так. LLM не выбирает случайную цифру она предсказывает наиболее вероятный ответ. А некоторые числа выглядят “случайнее” других. 7 - не край диапазона, не круглая, и не четная (четные числа субъективно кажутся более упорядоченными). Люди сами любят выбирать 7, когда их просят назвать случайное число.

Я тестил на GPT, сделал 10 чатов с разным уровнем размышления и во всех “случайно” получил 7.

Пишу это, чтобы напомнить LLM очень убедительно продолжают наши мысли.