Прыветы. Паразмаўляем сёння пра моцны ШІ і аргумент кітайскага пакою.

Яго шмат узгадваюць апошнія ~6-12 месяцаў у сувязі з поспехам ChatGPT. Сам аргумент можа быць не вельмі важным (яму 40 год і вам таксама будзе), але ён значна паўплываў на тое, як мы размаўляем пра штучны інтэлект сёння. Таму карысна мець агульнае ўяўленне, каб лепш разумець, пра што нудзяць вашыя любімыя падкасцеры

Аргумент ёсць атакай на функцыяналізм: ідэю, што ментальны стан вызначаецца тым, што ментальны стан робіць. І калі нешта паводзіць сябе быццам разумее натуральную мову, гэта нешта разумее натуральную мову

Аргумент будуецца так:

• Замыкаем няшчаснага ў пакоі з кітайскім пісьмом на картках і вельмі вялікім наборам інструкцый
• Пакуль ён грукае ў дзверы, прасоўваем яму пад імі сказы кітайскай
• І прапануем скарыстацца інструкцыямі аб тым, якія сінтаксічныя маніпуляцыі праводзіць з карткамі, каб атрымаць семантычна асэнсаваныя адказы

Пры дастатковай спрытнасці і любові да свабоды падапечнага, атрымаем змястоўную камунікацыю. Настолькі ж змястоўную, як размовы з ChatGPT.

Сёрл задаецца пытаннем: ці дастаткова функцыянальнага падабенства, каб стварыць разуменне. І адказвае, што не: чалавек у пакоі кітайскай усё яшчэ не разумее, а таму чалавечы мозг не можа быць рэдукаваны да "праграмы", якая выконвае функцыянальныя задачы натуральнай мовы, бо гэта не стварае ні разумення, ні ментальных станаў

І тут пачынаецца класічны для такіх пытанняў гармідар. Калі мы адной рукой высвятляем, ці існуе нешта (разуменне), а другой высвятляем, што слова (разуменне) значыць

Прадэманструем на папулярным контр-аргуменце. Ён такі: гэта праўда, што чалавек у пакоі не разумее кітайскай, але ўся сістэма валодае разуменнем і мы проста глядзім не на той (няшчасны ў пакоі) узровень абстракцыі. Адчуваеце, у чым падвох? Менавіта: мала хто разумее, дык што мы разумеем пад разуменнем і хто павінен гэтае разуменне мець

Сёрл адказвае на гэта, што ўзроўні абстракцыі тут ні пры чым. Разуменне ёсць вынікам ментальных станаў, якія нельга атрымаць з дапамогай дэвайса па маніпуляцыі сінтаксісам; для гэтага патрабуецца вылучэнне вялікай колькасці фізічна-хімічных уласцівасцяў нашага мозгу (і арганізму агулам), а не толькі правілаў маніпуляцыі сімваламі

Калі пазіцыя падаецца вам відавочнай і нават трывіяльнай, паразважайце пра наступнае. Борд OpenAI на днях звольніў свайго CEO. Папулярны наратыў у твітэры ў тым, што прычынай было стварэнне ўнутры цёмных калідораў OpenAI свядомай істоты, якую CEO схаваў, абараняў і, па-чутках, уступаў з істотай у інтымныя сувязі. Yeah

Таксама, пра кітайскі пакой ёсць нядрэнны фантастычны раман Blindsight. Ну, гэта калі вы адначасова гатовыя чытаць пра штучны інтэлект, іншапланецян і вампіраў у космасе