По можливості, кожного вівторка я виділяю 20 хв на епізод "The Daily Show", який веде Джон Стюарт. Формат late-night talk шоу ніби створений для ознайомлення з американською політичною культурою - достатньо, щоб зібрати повний спектр емоцій від "і смішно" до "і грішно". Другу частину шоу дивлюся рідко: зазвичай, там вже зовсім внутряки, а артистизм Джона стримується форматом діалогу. Та оскільки останній випуск був присвячений AI SI (улюблена моя ненависна тема), то і гостя запросили відповідного. Мова про Джейкоба Коксона, колишнього працівника OpenAI та Anthropic, молодого, але перспективного спеціаліста із дослідження та тренування лінгвістичних моделей. Якщо ви спостерігали останнє медійне занепокоєння щодо перспектив нищення людства, то маєте розуміти, що саме цей хлопчина став тригером нової ітерації таких розмов.

Я пишу на відповідну тему вже деякий час (більше інформації можете знайти по тегу #ai на іншому моєму каналі), тож не буду вдаватися в спекулятивне моделювання, як саме все може закінчитися (коротко - сучасні агенти вже ілюструють надзвичайні здібності в зламі обмежень сендбоксу та організації колективних атак; другий можливий сценарій - банальне використання сворму агентів для розробки хімічної зброї чи реалізації іншого акту терору). Якщо цікаво знати, які саме події привели до демаршу Коксона і шуму в медіа, можете глянути відео освітнього каналу Kurzgesagt на тему. Достатньо розуміти, що так званий "хрещений батько AI" Джеффрі Гінтон, нобелівський лауреат, який розробляв концепцію нейронних мереж, наполягає, що нам треба інвестувати не в інтенсифікацію інтелекту AI, а в навʼязування йому материнського інстинкту щодо людства, інакше we are cooked.

Я ж хочу поговорити про інше. Про колективну утопію технобро відносно майбутнього людства - де кисельні ріки та молочні береги, де все буде бєсплатно і все буде в кайф, де мабуть взагалі не треба буде помирати. Звичайно, наближати цей дивний новий світ ми будемо плечима атлантів тягарем білих людей складнощами буття бога ем, вибачте, візією візіонерів. Тих самих high IQ інтелектуалів, які щиро вважають, що в майбутньому Марс як екосистема буде придатніший за кліматично порепану Землю (ні, не буде; навіть якщо випустити по нам усім сукупний ядерний заряд, все одно Земля буде більш перспективним середовищем, ніж Марс). Так от, ці титани думки малюють нам наступне світле майбутнє - сингулярність створює прірву між можливостями людини та AI; не здатна конкурувати з машинами за продуктивність, людина тихо розтікається в кріслі-мішку, підтримувана донаціями безумовного базового доходу від нових благодєтєлєй. І ось тут починається цікаве. Я ще не спостерігав, щоб до проблематики AI підходити з такого боку: а що буде з людською агентністю? Як ми взагалі переживемо відсутність сенсу та втрату контролю? Втомлені поточною невротичною гонитвою, ми всі страшно бажаємо перепочити; але людина не здатна існувати без осмисленої діяльності тривалий час. Пакетний тур в Єгипет - не прайм людських потреб, а виснажене "повільніше, будь ласка". І проблема, звичайно, не в концепції ББД (це найкраще із соціального, яке ми здатні вигризти у капіталізму), а у втраті можливості впливати на власне середовище. Відчуття іррелевантності катастрофічно руйнуюче - це підмічає і Стюарт, кажучи, що люди його віку швидко помирають, якщо виходять на пенсію без альтернативної формули залученості в змістовне. На це звертав свою увагу і американський антрополог та анархіст Девід Ґребер в своїй праці Bullshit Jobs: виявляється, що високооплачувана робота, що не несе глибокого сенсу, руйнує своїх агентів швидше, ніж тяжка матеріальна праця. Ми знову потрапляємо в пастку раціоналізаторів, що не здатні осягнути потреби психіки: вона годується не виконанням бажань, а їх активним процесом. Задовольнивши і перекормивши людину матеріальними благами, споживча оптика залишає після себе пустку. Ми буквально сходимо з розуму, коли не розуміємо, навіщо ми і чого прагнемо. Тож ідея про щасливе людство, оточене благами та позбавлене турбот - це гіпертрофована антиутопія Хакслі, в якій кількість соми, яку нам доведеться вживати, присоромить навіть поточну культуру антидепресантів. Насправді ми не хочемо того, чого бажаємо. Ми воліємо воліти.

Друга проблема, яку підсвічує Стюарт - це втрата демократичного принципу, утвердженого людством в боротьбі останніх сторіч. Так, він недосконалий, часто карикатурний, нагадує спектакль; але як мінімум на символічному рівні він декларує: ми всі вкладаємося в спільне господарювання. Ідеали техбро повертають все догори дригом: світ перетворюється на один великий welfare, громадяни - на реципієнтів неперервної допомоги по безробіттю. 8 років тому я наголошував в своєму есе: ми відмовляємося помічати, якою політичною силою володіє корпоративний сегмент, коли визначає наш стиль життя. Нині цей звʼязок стає очевидним. І якщо виявиться, що політична модель майбутнього (якщо про майбутнє взагалі можна говорити) буде регулюватися некерованим принципом ші, або волею окремих, які агрегували інструментарій майбутньої господарчої системи - буде пізно думати, як же наше модерне уявлення про єдиносутнісний левіафан у вигляді держави так страшно нас приспало.

Але ситуація насправді ще гірша. Бо ніякого суспільства загального добробуту просто не буде. Тож як кажуть, є гарні новини: ми не зійдемо з розуму від безділля, але є нюанс. Історію про те, що науково-технологічний прогрес вивільнить величезну кількість трудової активності, на яку ми зараз кладемо життя, ми вже чули. Особливо багато під час Індустріальної революції. Але, овва, виявилось, що працювати ми від цього стали лише більше. Бо загальний екстенсивний принцип економіки не змінився, а лише поглибився: цифри мають рости, інакше криза; споживач повинен мати можливість купувати, інакше цифри не будуть рости; споживач повинен мати роботу, інакше він не зможе купувати. Ніякого перерозподілу благ відповідно до галопуючих цифр ВВП не відбулось (певним виключенням можна вважати минуле сторіччя - але тут треба дякувати не механізації праці як такій, а активному робітничому рухові, збуреному соціалістичними ідеями; поточна неоліберальна економіка чудово ілюструє, що, коли привид комунізму ніде не бродить, то і ніякого звільнення людини не спостерігається). Відбулось лише поглиблення матеріального розшарування, а глобалізована економіка кінцево привʼязала нас до кошмару неможливості зупинити перегони. Навіть якщо вважати, що всі послуги та блага, що нині їх генерує цивілізація, є сутнісними (а не способом заповнювати лакуни недостатнього споживання), завжди треба зважати на тих, хто акумулює ці ресурси. Найбагатші люди планети кожного дня повторюють, що ця акселерація цього разу точно піде нам на користь (trust me bro, just one more time, it will work out eventually), але чомусь не поспішають вискакувати із верхніх щаблів форбс (чи хоча б верхніх поверхів хмарочосів). Я так розумію, корпоративний комунізм наступить одномоментно: от нині ми не здатні забезпечити себе власною печерою упродовж всього життя, а потім добрі дяді буржуїни перемкнуть рубильник - і ми вже в Едемі.

(продовження нижче)