[Перевод] ИИ-дилемма: разгоняем рост — или закладываем выживание человечества? Разбираем статью экономиста Чарльза Джонса, где с этикой всё не так однозначно

Выкладываем полный перевод статьи The AI Dilemma: Growth versus Existential Risk — вышла в 2024-м, написал её Чарльз Джонс (Charles I. Jones). Вопрос там поставлен так, что просто не отмахнёшься: готовы ли мы обменять ускоренный экономический рост и (возможное) продление жизни — то, что сулит тотальное внедрение ИИ и рост самого ИИ до (предполагаемого) суперинтеллекта — на риск, при котором человечество как вид тупо исчезнет?

В статье разворачивают математическую модель: там есть параметры ускорения экономики, прибавки к продолжительности жизни и вероятности, что сверхсильный ИИ нас всех закопает. А неоднозначной с точки зрения этики статью делают вот чем: в ней утверждается, что некий уровень риска для человечества существует и его в теории можно посчитать, — и этот уровень «допускается принять» в обмен на ускоренный рост и подросшую среднюю продолжительность жизни.

Плюс к тексту и формулам идут комментарии — где-то чтобы формулы и самые мутные куски стали понятнее, а где-то с критикой: там, где допущения и выводы модели явно просят другого взгляда (см. финальный комментарий).

Читать далее

👉 Telegram | Max