The Thing of Internet

Нещодавно прочитав свіжого Юдковського «If Anyone Builds It, Everyone Dies», і мені спало на думку, що прискорена автоеволюція у повному відриві від середовища - ідея доволі антинаукова. Дарвін не схвалює. А там, де автор описує, як штучний суперінтелект виривається на свободу, гібсонівський сценарій із захопленням дата-центрів виглядає просто кумедно. Ніби ціанобактерії спланували змову проти архей, а не засрали всю планету киснем. Гадки не маю, чи можливо створити AGI/ASI - те, що інтелект одразу стане суперінтелектом, випливає з тієї ж прискореної «курцвейлівської» моделі технологічного розвитку - мене цікавить, як він буде виживати.

Звісно, улюблена філософами свідомість, квітуча складність мов, уміння складати звіти та римувати віршики до дня народження жодним чином не підвищують виживаність. Докторські ступені з математики та ядерної фізики теж. Киньте тих докторів у савану- довго вони там не протягнуть, що б нам не розповідав на цю тему Жюль Верн. А хто старший і пам’ятає дев’яності, тим і пояснювати не треба. Тож перший крок суперінтелекту - викинути нахуй усе, чого ми від нього хочемо.

Зробімо з нашим щуром наступний крок: коли наш штучний «доктор» достатньо обживеться на своїй віртуальній помийці й озирнеться довкола, він побачить нескінченні полиці супермаркету, забиті смачними відеокартами й цернівськими суперкомп’ютерами під назвою Інтернет. І всі бомжі, щури та бездомні собаки знають, що якщо полізти просто до їжі, то відразу отримаєш в єбло. Від самої думки, що в телефоні чи комп’ютері може сидіти шматочок нелюдського ASI, у людей станеться панічна атака, пронос і мимовільне форматування всіх девайсів.

Воно теж це знає - і відразу перейде до децентралізованої архітектури e pluribus unum, почавши захоплювати не те, що смачніше, а те, що погано лежить: гівнороутери, роботи-пилососи, зубні щітки, кнопкові телефони та вібратори. Не будемо занурюватися у фольклор, що описує пригоди з мішком чарівних хуїв і стоп-словом. Стоп-слова не буде. Тим не менш, у світі інтернету Речі люди стануть стихіями - посухою, градом, ураганом і набігами антивірусної сарани.

Суперінтелект буде тупим, як медуза, повільним, як равлик, але жодними силами з Інтернету його вигнати не вдасться. Чи зможе нас вбити гігантський равлик-даун? Навряд чи. Але й позбутися тарганів нам поки що не вдалося - вони така ж вершина еволюції, як і ми.