Харари и ИИ

Я не люблю Харари, потому как от него как будто веет нелюбовью к человечеству, но он распространяет определенное облако тегов. Напомню, что Харари буквально с первой книги говорит нам, что "Люди живут не на истине, а на общих историях, и тот, кто контролирует историю, контролирует вид"

Давайте посмотрим, что сказал на Гала ужине журналисту Тому Паркеру

(1) Когнитивная революция

- Люди приобретают способность создавать и использовать сложный язык, и что это стало основой всего остального, что мы делали – все большие структуры основаны на языке (государства, церкви на своде законов живут)

- Теперь что-то новое осваивает язык (ИИ), появится нечто, что владеет словами лучше нас (и сможет взять контроль над нашей операционной системой)

- Возможно, искусственный интеллект – это не машина, которая учится языку, а сам язык, освобождающийся от зависимости от этих животных, от этих обезьян

[вот это именно то, о чем я говорю, когда говорю о нелюбви к людям; есть целая плеяда ученых и прочих умных людей, которые почему-то считают признаком исключительности ума объявить, как человек, вообще-то, не является венцом эволюции, это просто пыль, понимаешь, на ботинках прогресса]

(2) Землетряс демократИИ

– У нас нет ни одного примера крупномасштабной демократии до появления современных информационных технологий – сначала печатных газет, затем радио, телевидения и интернета [руку к лицу устала прикладывать, пока читала это]

- Каждый раз, когда происходят серьезные изменения в этих информационных технологиях, происходит землетрясение в здании, построенном на этом фундаменте, а именно в демократии

(3) ИИ как агент, а не инструмент

- ИИ – это агент, иначе никакого смысла не было вкладывать в это деньги

- Долину глючит, оттуда звучат противоположные наративы: одни говорят, что создают бога, и он будет нашим рабом. И это не имеет смысла. Если это бог, он не может оставаться рабом. А если это раб, это значит, что у него нет божественных способностей

- Мир захватят ИИ-бюрократы, а не роботы-убийцы, потому что ИИ – bureaucratic native. Мы управляем миром благодаря этим бюрократическим сетям, и у нас это плохо получается

(4) Правосубъектность

- Мы жили в мире, где правосубъектность была у людей и корпораций (юр лиц), но это все чушь, потому что корпорации – тоже люди, люди принимали решения. Теперь может быть не так

- Аргентина объявила о намерении предоставить ИИ статус юридического лица – то они смогут создавать функционирующие нечеловеческие корпорации (non-human corporations)

- Лиса заберется в курятник – мы не сможем так знать законы, как ИИ, и если они обретут правосубъектность, с учетом их мощи – захватят бюрократически власть

- В соц сетях ИИ уже функционируют как люди (боты)

(5) Редакторы теперь – алгоритмы

- СМИ тоже были бюрократическими системами. Контроль над "полосами" = власть. Теперь это уже ИИ

(ранее Харари говорил, что сдвиги в расстановке сил происходят среди тех, кто контролирует энергетику, производство и данные)

(6) Гонка вооружений в области ИИ: Новый тип империи

- C появлением ИИ, две страны могут фактически контролировать всю инфраструктуру, на которой всё работает:

нельзя было перенести сельхоз земли к Риму в Римской империи, нельзя было перенести месторождения в Британскую империю (но производста – можно было), зато можно сконцентрировать всю мировую информацию и весь код, управляющий всем, в одной или двух странах

#Cognitive_Revolution #non_human_corporations #imperial_hub #huge_bureaucratic_networks #bureaucratic_native #imperial_concentration_of_power #Legal_Personhood #power_loop #AI_Arms_Race #superintelligence

〰️ Сигналы бытия