Юдковский известен прежде всего как автор легендарного фанфика "Гарри Поттер и Методы Рационального Мышления", но так-то он один из крупнейших специалистов по опасностям искусственного интеллекта.
Полгода назад он написал книгу "Если его кто-нибудь построит, все умрут", после чего словил дикий организованный хейт в западных СМИ.

Сейчас реально существует огромное давление не только на использование искусственного интеллекта, но и на его максимальное использование. В безумном стремлении проложить путь к успеху до наступления "социальной сингулярности" чиновники разрушают именно те навыки, которые действительно будут иметь значение в мире post-AGI: здравомыслие, стратегическое мышление, способность распознавать, когда что-то пошло не так и, главное, принимать это, а не упорствовать в своих заблуждениях.

А в отношении ГПиМРМ, что интересно, ну как бы конкретно про МРМ (научный метод, байесовские вероятности, lesswrong, критика когнитивных искажений, формальная логика, экспериментальная проверка гипотез...) в фанфике особо и нету ничего. Ну может первые 20 глаз (исследование оборотного зелья, трансфигурации волшебных палочек, теоретизирование о природе магии...), но там не имеется ни малейшей систематизации как учебной программы. А дальше по сути лишь психология и тактика (педагогика Квиррелла).

Потому что Юдковский в силу своего профиля считает рациональностью более широкие темы:
a) эпистемологию -- правильно определять, что истинно (научный метод, байес) -- Гарри уже имеет эту базу,
b) инструментальщину -- как достигать целей эффективно (психология, стратегия, тактика, теория игр) -- Квиррелл учит конкретно этому под видом "боевой магии".

Рациональное мышление в научном смысле в ГПиМРМ показано конечно, но не структурировано, а "вшито" в характер Гарри и его самостоятельные исследования.

И вот как, дорогие, мы будем это исправлять...

...Гарри, сидя в Выручай-комнате, понимает, что магия -- это исполняемый код на языке реальности, и Гермиона вздыхает: "Поттер, ты превратил магию в программирование"...

Драко Малфой решает забанить всю магию, для чего заключает союз с Неорганическим Интеллектом...

...и, казалось бы, при чём здесь теория типов?

Гарри Поттер и МММ

1 апреля.