Радио «Виктор»: философское

Всем, кто пользовался LLM, знакомо пугающее чувство, что машина ведёт себя очень по-человечески. Я сам впервые поймал себя на этой мысли не в тот момент, когда ChatGPT очень многословно и подробно отвечал на мои вопросы — то, что машина может быть умнее/быстрее/точнее человека, не было для меня тайной с момента победы AlphaGo над Ли Седолем. Но вот когда я запустил несколько агентов и поручил им общую задачу, а они стали спихивать ответственность друг на друга — тут мне стало жутковато. Особенно после фразы от агента-тимлида: «то, что задача в статусе Done, ещё не означает, что всё готово, потому что агент SRE должен был запустить код на продакшене».

И вот что забавно — до сих пор я нигде не смог вычитать, а почему же языковая модель так похожа на сознание. Я знаю, что проводилось много экспериментов с попытками заложить какие-то человеческие черты нейросетям, но почему-то лучше всего сработало именно моделирование языка. Причём любого — ведь LLM замечательно переходят с одного языка на другой, смешивают их и переводят по просьбе пользователя. Значит, есть в языке что-то такое, что мы до этого считали значительной частью сознания.

А ещё стало понятно, чего в нём нет: желаний. Нет никакой воли, интенции, агентности (забавно тут употреблять это слово). И дело не в ограничениях, уверен.

И, конечно, невольно задаёшься вопросом: а что в моей личности привнесено языком? И насколько то, как я говорю, влияет на моё собственное сознание?