ChatGPT, как и другие большие языковые модели (LLM), не имеет мышления в том понимании, в каком мы привыкли думать о мышлении. Если сильно упрощенно - то он подставляет наиболее статистически вероятный символ, соответствующий предыдущему символу.
Кем был Достоевский? - спросим мы LLM
LLM посчитает, что наиболее вероятное слово к слову Достоевский - будет слово "писатель", и будет прав. Чертов гений!
И за этот механизм к LLM относятся не слишком серьезно. Мол, это не настоящее мышление. Человеку не ровня!
Но давайте честно. А как мы строим предложения? И вообще мышление.
Об этом писал Канеман, со своим быстрым S1 и медленным S2 мышлением.
Если кратко, то S2, это когда мы погружены в процесс мышления и очень качественно обдумываем его продукт.
А S1, это когда мы выплевываем ответ или действия не задумываясь, из заранее заготовленных шаблонов.
И вот это S1 кажется подозрительно похожим на то, что воспроизводит LLM.
"Мужчина должен..."
"Женщина должна..."
Первое что приходит в голову - работа нашей LLM. Нечто интроецированное, часто внедренное извне, шаблон, который срабатывает автоматически в ответ на стимул.
И такого быстрого мышления в нашей жизни в разы больше чем медленного вдумчивого. Просто потому что с точки зрения биологии так эффективнее. Не надо затрачивать лишнюю энергию на обдумывание "очевидных истин".
И тогда, так ли уж далек от человеческой природы LLM?
Как по мне, языковые модели знаю о нас, людях, больше чем мы сами о себе.
И уж точно больше, чем мы готовы себе признаться.
#чтовижутопою