Технологическая сингулярность: что станет с обществом, кому достанется власть и кто будет управлять будущим, когда ИИ станет умнее человека?

Илон Маск объявил, что человечество вступило в эпоху технологической сингулярности. Дональд Трамп пошёл ещё дальше: предложил отказаться от термина «искусственный интеллект» и подписал указ о его переименовании в «сверхинтеллект».

Но искусственным интеллект называют не потому, что он хуже человеческого, а потому, что создан человеком. И даже если однажды превзойдёт нас по всем интеллектуальным способностям, искусственным он быть не перестанет.

А нобелевский лауреат Дарон Аджемоглу предлагает посмотреть на проблему иначе: возможно, вместо сверхинтеллекта мы создаём «искажённый интеллект», который становится всё мощнее, но далеко не всегда остаётся управляемым.

В российских соцсетях и Telegram-каналах тоже развернулась бурная дискуссия о технологической сингулярности. Но большинство обсуждений не затрагивает важнейшие вопросы: кто будет контролировать "сверхинтеллект", в чьих интересах он станет работать, принесёт ли он благо всему обществу или лишь тем, кто им владеет, и как изменятся общество, политика и сама система власти. А это, на мой взгляд, и есть самое главное.

Способен ли даже самый совершенный интеллект самостоятельно определить, что хорошо для общества? Ведь можно найти идеальный способ достижения цели, но сама цель может оказаться ошибочной или выгодной лишь тем, кто её поставил. Как в утопиях и антиутопиях: стремление построить идеальное общество порой оборачивается созданием системы, в которой человеку уже не остаётся места для свободы и собственного выбора.

Между тем технологическая сингулярность пока остаётся гипотезой. Но борьба государств и крупнейших корпораций за контроль над интеллектуальными системами идёт уже сегодня. Доступ к наиболее мощным моделям и вычислительным ресурсам может стать источником нового социального неравенства и политического влияния.

А что, если главная борьба будущего развернётся не между политическими партиями и государствами, а между теми, кто контролирует AI (SI), и теми, чьей жизнью с его помощью будут управлять?

И тогда технологии, которые должны были расширить возможности человека, рискуют сделать его ещё более зависимым от тех, кто ими владеет.

Об этом, о технологической сингулярности, новой борьбе за власть и будущем политтехнологий и социальной архитектуры — в большой статье, что сегодня, надеюсь, опубликую.

ПОДПИСАТЬСЯ ✅ Telegram-канал «Политтехнологи»