Люди тоже предсказывают следующий токен

Каждый раз, когда кто-то снисходительно говорит «ИИ — это просто предсказатель следующего токена», хочется ответить — «а вы сами-то что делаете?» Подразумевается, что человеческая речь работает по тому же принципу: мы подбираем следующее слово, опираясь на контекст, опыт и статистику услышанного за жизнь.

И вот тут я не могу радостно кивать вместе со всеми. Аргумент «люди тоже так работают» - это ловкая подмена. Да, при генерации речи мы предсказываем слова. Но мы ещё потеем, боимся смерти, чувствуем запах кофе и принимаем решения на основе того, что нам физически больно. У нас есть тело, которое постоянно вмешивается в «предсказание токенов».

Сводить мышление к речепорождению - это как сказать, что самолёт и птица одно и то же, потому что оба летают. Летают-то да. Но птица ещё и гнездо вьёт, а самолёт просто керосин жрёт 😏

Обе стороны спора одинаково упрощают реальность, просто в разные стороны.