Юваль Ноа Харари: ИИ давно не инструмент

Не все тезисы бесспорны, но из песни (пропетой автором термина бесполезный класс футурологом Харари в Давосе полгода назад) слов не выкинешь.

1. ИИ — автономный агент
В отличие от прошлых технологий (от топора до бомбы), которые были лишь инструментами, ИИ — первый в истории самостоятельный агент. Он способен автономно принимать решения и генерировать новые идеи.

2. Взлом языка и культуры
ИИ «взломал операционку цивилизации» — язык. Создавая тексты и смыслы на уровне человека, алгоритмы получают власть над культурой. Обществу грозит реальность, где законы и нарративы формирует нечеловеческий разум.

3. Угроза юридических прав для ИИ
Поставим вопрос о наделении ИИ статусом юридического лица. Если алгоритмы смогут владеть корпорациями, нанимать адвокатов и заключать контракты, это полностью перестроит мировую экономику и систему власти.

4. Алгоритмическая бюрократия
Человек рискует потерять контроль, так как ИИ способен выстраивать сверхсложные бюрократические системы. В итоге человечество может оказаться в подчинении у аппарата управления, лишенного сознания и эмпатии.

______
Выводов не будет, дискуссии тоже: ждать-то явно недолго осталось.