👨‍💻 «Па руках будуць біць не Claude, а цябе». Гутарым с «АйЦіБарадой», як AI мяняе нашае жыццё і працу (частка 1)

Аляксей Картыннік, таксама вядомы як ITBeard, у вольны ад праграмавання час вядзе падкаст «Каласы пад сярпом ШІ». Апошнія чатыры гады, як толькі выйшла першая публічная мадэль ChatGPT, ён вывучае магчымасці нейрасетак і як тыя на нас уплываюць.

Dzik пагутарыў з ім пра перспектывы для праграмістаў, этыку, датацэнтры і ўзрослую кагнітыўную нагрузку.

🟣 «Чалавек патрэбны там, дзе ўзнікае адказнасць»

— Прапаную пачаць з такога: на якія фічы нейрасетак ты спадзяваўся на пачатку запуску падкасту «Каласы пад сярпом ШІ», і што з гэтага збылося на сёння?

— Я не футурыст, трэнды не прадказваю. Чатыры гады таму проста пачаў назіраць, куды развіваецца праграмаванне. Бо першыя версіі нейрасетак я выкарыстоўваў у першую чаргу для працы — і калі тыя напісалі найпрасцейшую «змейку», ужо быў у захапленні.

Але на той момант і прадказаць не мог, што будзе так, як будзе. Таму што на сёння код я самастойна ўжо не пішу — як і мае знаёмыя, і знаёмыя знаёмых. Шмат якія кампаніі цяпер выкарыстоўваюць ШІ на пастаяннай аснове.

Акрамя таго, апошнія два гады я раблю з дапамогай генератыўнага інтэлекту музыку па-беларуску (канешне, з паметкай, што гэта ШІ). І недзе год таму пачаў атрымоўваць трэкі добрай якасці. Так, нейрасеткі навучыліся вымаўляць беларускія гукі нармальна — калі, канешне, добра так пасядзець, зрабіць 200-300 генерацый і прапісаць промпты рукамі.

Разумею, некаторых такая «штучная» творчасць пужае. Доўга над гэтым думаў і прыйшоў да высновы, што ў дадзеным выпадку нейрасетка выкарыстоўваецца ў першую чаргу як інструмент. Яна не замяняе чалавека — усё ж менавіта я альбо пішу, альбо абіраю гатовыя тэксты беларускіх класікаў; выбіраю напрамак музыкі, праводжу апрацоўку і раблю выбар фінальнага выніку. То бок, нават за згенераваным трэкам стаіць жывы чалавек.

— Добра, а калі вярнуцца да праграмавання, то што думаеш пра вайбкодынг? Гэта будучыня альбо ж «лапшакод»?

— Тут я згадаю Андрэя Карпатага — «бацьку вайбкодынга» і вельмі разумнага дзядзьку, які і ўвёў гэты тэрмін. У арыгінале вайбкодынг значыў, што прафесійны праграміст, сеньёр, кажа нейрасетцы, што рабіць — і тая робіць, і за ёй нават не трэба вычытваць.

Канешне, у рэальнасці так адбываецца не заўсёды. Ёсць людзі, якія наогул не ўмеюць кодзіць і, галоўнае, не хочуць марнаваць час на вывучэнне новага навыку. Замест гэтага пішуць: «Зрабі мне такое-та пашырэнне», і гэта цалкам нармальна. Бо гэта не крытычная інфраструктура, яны вайбкодзяць толькі для сябе.

Але калі дасведчаны праграміст робіць камерцыйны прадукт і не ўчытваецца ў напісаны нейрасеткай код, то я гатовы біць яго па руках. Вы павінны абавязкова вычытваць код, гэта вашая праца.

Альбо — вычытваць код сістэм, якія пасля стануць пісаць і правяраць код для вас, які вы ўжо чытаць не будзеце. Рабіць так званыя Dark Factory

— Акей, але тут узнікае пытанне — дзе праходзіць мяжа, да якой яшчэ можна давяраць ШІ, а потым ужо нельга?

— Пытанне ў тым, навошта нам наогул чалавечы нагляд. І адказ — чалавек патрэбны там, дзе ўзнікае адказнасць. То бок, калі ты напішаш з дапамогай нейрасеткі фіговы код і адправіш яго ў прадакшн, то па руках (і добра калі толькі па руках) будуць біць не Claude Code, а цябе

Зараз гэта разрульваецца на ўзроўні кампаній — збіраюцца цэлыя сэрвісныя каманды, якія назіраюць за выкарыстаннем ШІ і прапісваюць палітыку, што можна і што нельга, на самым высокім узроўні.

— Ці ў цябе самога ёсць такі «этычны кодэкс»?

— Калі праграмую для канкрэтнай кампаніі, то, канешне, прытрымліваюся ўнутранай палітыкі. А вось ва асабістых праектах у мяне policy няма. Мая «полісі» абмежаваная маім ноўтбукам. Я ведаю свае рызыкі, і галоўная — што мае даныя могуць трапіць некуды ў інтэрнэт. Да гэтага я гатовы.

Аднак я намагаюся прытрымлівацца аўтарскага права ў нейрасетках. Гэта адна з найбуйнейшых і самых аб’ектыўных праблем на дадзены момант. Таму, калі ў мяне ёсць выбар, якую нейрасетку запусціць, выбіраю абучаную на этычных даных. У Еўразвязе, у адрозненне ад таго ж Кітаю, падобных опенсорс-праектаў хапае. Напрыклад, той жа французскі Mistral AI, і хутка ў Нідэрландах выйдзе мадэль GPT-NL.

🟣 «Этычныя пытанні пераходзяць у фізічны стан, і я рэспектую, што нехта звярнуў на гэта ўвагу»

— Мне падаецца, еўрапейская бюракратыя не вельмі спрыяе развіццю мясцовых нейрасетак...

— Часткова праўда, але, магчыма, гэта не так ужо і блага. Я нядаўна ездзіў у ЗША — паглядзець, як яны там робяць нейрасеткі. І па вяртанні зразумеў, што мне вельмі камфортна жыць у Еўропе. Бо, напрыклад, у ЗША на этыку ніхто не глядзіць.

У Еўропе ж прынамсі ёсць AI Act. І хоць гэты акт не спрыяе развіццю бізнэсу і сучасных серавісаў, але абараняе нашыя правы як карыстальнікаў — тым, што нашыя даныя не зліваюцца «на бок». Што неэтычныя тэхналогіі да нас не даходзяць (альбо даходзяць, але запозна, калі ўжо выпрацаваныя стрымліваючыя меры). Бо ў актах прапісана, што калі нехта хоча прыйсці ў ЕС са сваім сэрвісам, то першым чынам павінен прайсці этычную камісію.

То бок, хоць Еўропа і адстае па тэхналогіям, але ў гэтым ёсць свае плюсы. Напрыклад, тут не ставяць датацэнтры на рэках з пітной вадой.

— Тут варта згадаць «Magnifica Humanitas» ад Папы Рымскага, дзе ён папярэджвае пра небяспеку ШІ.

— І гэта класна. На сёння ўжо існуе шэраг пытанняў, з якімі пакуль ніхто нічога не робіць. Напрыклад — выкарыстанне нейрасетак у ваенных мэтах. Альбо — ужо згаданыя дата-цэнтры на рэках. Бо пітная вада выкарыстоўваецца для ахаладжэння, награваецца, і потым яе вяртаюць у рэкі, ад чаго гіне мясцовая экасістэма. Ну і дата-цэнтры самі па сабе падвышаюць тэмпературу на планеце, якая і так ужо награваецца… То бок, этычныя пытанні пераходзяць у фізічны стан, і я рэспектую, што нехта звярнуў на гэта ўвагу.

Яшчэ адна праблема, якая мяне цікавіць — гэта суіснаванне чалавека і ўсіх гэтых ШІ. І так, тут гаворка пра «штучны інтэлект» — бо ў масавым сазнанні гэта менавіта інтэлект. Людзі ўжо закохваюцца ў чат-боты і забіваюць сябе праз гэта. І чамусьці ніхто не ўспрымае гэтае пытанне сур’ёзна.

Аднак, сазнаюся, я аптыміст і спадзяюся, што ў будучыні нейрасеткі сапраўды дойдуць да ўзроўню штучнага інтэлекту і самі сябе выцягнуць з гэтай багны — і нас з сабой заадно.

Працяг👇