Как ИИ разрушает институты гражданского общества

Сегодня еще для обсуждения статья "How AI Destroys Institutions" ( авторы Woodrow Hartzog and Jessica Silbey).

👀 Ключевые тезисы:
1️⃣Институты держатся не на технологиях, а на легитимности.
Право, университеты, наука, пресса работают потому, что есть роли и ответственность, есть процедуры, объяснимость решений, социальные связи между людьми.
ИИ же производит результат без институционального процесса.

2️⃣ИИ размывает экспертизу. Когда ответ выдаёт система, то неясно, кто именно «знает», невозможно оспорить путь рассуждений, исчезает различие между экспертным суждением и сгенерированным текстом.

3️⃣Решения “короче”, но беднее. ИИ сокращает обсуждения и сомнения, подменяет коллективное принятие решений автоматическим выводом, поощряет быстрое согласие, а не критическое мышление.
Это особенно опасно для судебной системы, образования, СМИ.

4️⃣ Люди изолируются друг от друга. Институты эволюционируют через споры, конфликты, совместную работу. ИИ же заменяет взаимодействие, делает процессы индивидуальными и непрозрачными, разрушает социальную ткань института.

Главный вывод авторов: нынешние системы ИИ - это смертный приговор для гражданских институтов.

Делитесь мыслями в комментариях ⤵️

#UXWatch
————
@pattern_ai