Коротко — через задницу!
Наконец-то мы дошли до истинной неопределённости!
Непонятность отличает неопределенность от риска. Риск — это когда вы делаете ставку на красное и догадываетесь, с примерно какой вероятностью казино отберёт у вас деньги. Неопределённость — это когда вы делаете ставку на Ы47 в хер пойми какой игре.
Тем не менее, какая-то информация есть. Например:
— Вы можете получить миллион рублей, но худший исход — вас застрелят.
— Вы можете получить 5 тысяч рублей, но худший исход — вам дадут пощечину.
Маша, это, конечно, Маша, но 5 тысяч рублей — это 5 тысяч рублей. Всего-то за пощёчину. Вероятно, этот вариант лучше. Это максимин — вы стремитесь максимизировать свой минимальный возможный выигрыш. То есть выбираете самый плохой исход каждого варианта и потом выбираете вариант с наименее плохим исходом.
Меньшее зло )
Собственно, именно так запустили зелёную повестку — потому что затраты на её внедрение явно лучше, чем глобальная катастрофа.
Автор говорит, что план так себе, и надо другой механизм. Проблема в том, что избегание худшего сценария почти никогда не бывает бесплатным или дешёвым. Обычно это дорого и больно.
В целом, такие механизмы есть. В ситуациях "мы просто не знаем" на практике люди (в том числе правительства) делают три вещи:
— Считают, что будущее будет похоже на настоящее.
— Смотрят на рынок, считая, что цены уже отражают все будущие ожидания.
— Следят за толпой, полагая, что большинство знает лучше.
Но и это план так себе, и в условиях настоящей неопределенности все эти "вежливые техники" могут рухнуть.
Те, кто это понимают, используют ещё один лайфхак: боятся решения. Точнее, стратегически выжидают, пока появится больше информации или другие альтернативы. Но, как показывает практика, это тоже имеет цену, и часто очень высокую.
Так как делать в итоге?
1. Определить, насколько на самом деле плох наихудший сценарий. Он просто задница или это абзац? Большая ли разница между ним и другими исходами?
2. Что именно мы теряем? Каковы упущенные выгоды?
Так можно провести грубый анализ затрат и выгод. Если худший сценарий — это абсолютная катастрофа, а упущенные выгоды не так уж велики, то правило максимина оправдано. Если же худший сценарий лишь немного хуже других, а отказ от действий лишает нас огромных благ, то следовать максимину — глупость.
Это, кстати, сейчас относится к тому, как решили проблему с возможным взрывным развитием ИИ.
Грубо говоря:
— Вариант 1. Запрет разработки ИИ. Человечество спасено от возможного риска. Цена варианта — мы навсегда лишились потенциальных чудес: лекарств от всех болезней, нестарения, освоения космоса. Риск в том, что человечество дальше сталкивается с другой экзистенциальной угрозой (пандемия, астероид), которую мог бы предотвратить ИИ, и гибнет.
— Вариант 2. Продолжение разработки ИИ с максимальными мерами предосторожности. Мы создаем дружественный сверхразум, который решает все наши проблемы. Наступает золотой век. Худший исход — ИИ выходит из-под контроля и уничтожает человечество. Ну или там оптимизирует, это как пойдёт.
— Вариант 3. Продолжаем разработку без ограничений.
Максимин говорит, что вариант 2 неприемлем.
Ну а в реальном мире разумно учесть потери — если одна из стран продолжит разработку быстрее, то золотой век достанется ей, а не тем, кто ввёл мораторий. Получится другой вид недопустимого урона. Соответственно, надо выбирать вариант 2, потому что это минимизирует максимальный проигрыш. Но если внимательно посмотреть на разницу варианта 3 и 2, становится понятно, что эта же механика подталкивает всех к выбору именно 3.
Есть ещё фантастическая гипотетическая ситуация — договориться всем вместе. Реально? Нет, конечно, мы же земляне!
--
Вступайте в ряды Фурье! | Самые интересные посты
Самые вежливые люди — это грибники. Ведь каждый знает, что у другого есть нож.