Вы знали, что AI придумали название для людей? Мы – «Наблюдатели», потому что постоянно наблюдаем за ними... Юваль Ной Харари в Давосе задал прекрасные вопросы о том, что такое AI, его месте в будущем, и месте человечества в мире с AI.

Прослушал, рекомендую вам, потому что философские и практические вопросы, которые он задаёт, заставляют глубоко задумать о том, кто мы есть и будем, в мире, где появится разум сильнее нашего.

1. AI – это агент и самостоятельный субъект, а не привычный нам по прошлому любой инструмент, который был и есть помощником человека (например, нож). AI способен принимать решения, учиться, проявлять изобретательность (создавать музыку, лекарства, финансовые инструменты) и даже лгать ради достижения целей.

2. Впереди нас ждёт угроза человеческой идентичности и «монополии на слова». До настоящего времени люди доминировали на планете благодаря способности сотрудничать с помощью слов, историй и законов. Теперь AI умеет складывать слова в осмысленные предложения намного лучше большей части населения. Если определять мышление, как способность упорядочивать слова («Я мыслю, следовательно, я существую», – Рене Декарт), то AI уже мыслит лучше нас – и под угрозой сферы, построенные на тексте: правовая система, религия и книгоиздание, и тд.

3. AI как «цифровые иммигранты». Харари предлагает рассматривать агентов как новый класс иммигрантов, которые прибывают не на лодках, а через интернет со скоростью света. Они потенциально могут стать идеальными врачами и учителями, и при этом несут риски. Например, займут рабочие места, изменят культуру, искусство и даже романтические отношения.

4. Ловушка «наемников». Харари приводит историческую аналогию с бриттами, которые в своё время наняли саксов для войны, а потом саксы их завоевали (они же слабые, что нам помешает?) Сейчас AI (как наемник) решает задачи и проблемы людей, но по мере повышения осознанности и развития воли, он потенциально может захватить власть, так как люди станут зависимы и слабы (пересмотреть Терминатор).

5. «AI – самый пугающий эксперимент». Сейчас мы позволяем себе и детям расти и воспитываться во взаимодействии с AI, а не с людьми. Такой подход, наряду с потерей навыков критического мышления, меняет саму суть человеческого развития, и к чему приведёт в будущем – пока сложно предсказать, но варианты не сильно оптимистичны.

Пока ценность человека в том, что у него есть невербальных чувства (боль, любовь, сознание), которые AI пока имитирует. Хахари предупреждает, что если человечество не сохранит ценность невербальных чувств, человеческая идентичность может рухнуть под натиском машинного интеллекта.

Ссылка на видео в комментариях 👇

#ai