Юдковский, «Рациональность: от ИИ до зомби»: обзор и практические инструменты. Часть 2.

В «Рациональность: от ИИ до зомби» местами описаны практические инструменты. В списке ниже привожу сжатую выборку материала из книги с обобщениями и небольшими изменениями, в некоторых случаях у Юдковского есть ссылки на источники, здесь они опущены:

• Постоянно задавать вопрос почему? Почему я верю в то, во что я верю? Что я знаю и почему думаю, что знаю? Сначала мы принимаем на веру разные утверждения, а сомневаемся лишь потом, что подтверждается экспериментами - задавать себе эти вопросы крайне важно.

• Какие ожидания следуют из этого убеждения? Что не должно происходить, если оно верно? Если ответа на второй вопрос нет, то убеждение бесполезно.

• Наши представления – это карта, а не территория. Карты часто неправильны, однако устройство реальности от этого не меняется. К тому же, на картах много упрощений.

• P(X и Y) меньше или равно P(X). Вероятность пересечения событий меньше или равна вероятности любого из событий. Тем самым, требование к простоте гипотез вытекает из теории вероятностей. Это та же причина, по которой не стоит строить сложные планы или цепочки рассуждений.

• Провел ли я 5 минут с закрытыми глазами в поисках лучшей альтернативы, креативных или даже безумных опций? Из той же серии: «Не предлагайте решения пока проблема не обсуждена настолько глубоко, насколько возможно». Полезность такого подхода объясняется психологическими механизмами: когда есть некоторое решение, то другие опции хуже приходят в голову.

• «Для понимания поведения людей надо отдавать себе отчет в том, что все думают, что ведут себя абсолютно нормально».

• Если появляются разногласия, не пытаться лучше определить спорные термины или использовать синонимы, а детально описывать, что подразумевается. Например, пояснить, что такое свобода воли, не используя это словосочетание или синонимы. Обсуждение без ярлыков помогает понять, о чем именно идет речь.

• Не давать «мистические объяснения на мистические вопросы». Например, в витализме живые объекты от неживых отличались тем, что в первых была «жизненная сила». Такое объяснение ничего не объясняет. Модель должна быть механизмом с подвижными частями, она не может быть некоторой единой субстанцией.

• Как бы я восстановил это знание, если бы его удалили из моей памяти?

Если в наличии много свободного времени и умеете пролистывать знакомые темы без мук совести, то прочитать «Рациональность: от ИИ до зомби» стоит: велика вероятность найти для себя что-то ценное и новое. Тем не менее у Юдковского я бы начал с книги «Гарри Поттер и методы рационального мышления». Если вы фанат серии Гарри Поттера и интересуетесь рациональностью, скорее всего, она доставит удовольствие и пользу.

Литература: Юдковский «Рациональность: от ИИ до зомби» (есть частичный перевод на русский язык), Гарри Поттер и методы рационального мышления (есть на русском языке).

#обзор_книг #инструменты