Что ты такое: что почитать про ИИ, чтобы понять, как он устроен

Обещанная подборка книг про искусственный интеллект. Что это вообще такое, как это все понимать, с чего все началось и как он нас всех уничтожит чем может продолжиться.

1. Ник Бостром, «Искусственный интеллект. Этапы, Угрозы, Стратегии»

Главный труд оксфордского философа Ника Бострома — автора нашумевшей «гипотезы симуляции» — впервые поставил вопрос о рисках развития искусственного интеллекта и остается одной из самых влиятельных книг о будущем «сильного ИИ».

2. Анил Сет, «Быть собой: Новая теория сознания»

Отличная книга про сознание как таковое. В ней автор предлагает допустить, что реальность — это контролируемая галлюцинация, и через сравнение с искусственным интеллектом исследует природу сознания и субъективного опыта.

3. Гаурав Сури, Джей Макклелланд, «Рождение разума: Как интеллект зарождается в людях и нейросетях»

Классик коннекционизма Макклелланд и специалист по экспериментальной науке Сури доступно объясняют, как разум — человеческий и искусственный — возникает из взаимодействия множества простых элементов.

4. Стюарт Рассел, «Совместимость. Как контролировать искусственный интеллект»

Соавтор главного мирового учебника по ИИ размышляет, как совместить сверхразумные машины с человеческими ценностями, не впадая при этом в крайности своих коллег-алармистов, призывающих немедленно уничтожить все дата-центры. Он, в общем, предлагает мирные переговоры с ИИ.

5. Дэвид Чалмерс, «Реальность+. Виртуальные миры и проблемы философии»

Автор «трудной проблемы сознания» Чалмерс доказывает здесь, что жизнь в виртуальной реальности ничем не хуже «оффлайна», а Бог вполне может оказаться искусственным интеллектом, «который разработал серию герметичных симуляций и не уделяет им пристального внимания»...

6. Меган О'Гиблин, «Бог, человек, животное, машина»

Писательница с религиозным прошлым Меган О'Гиблин объясняет, почему человек склонен наделять искусственный интеллект божественными чертами. Меньше нейронауки, больше философии. Люблю эту книгу.

7. Джанель Шейн, «Кокетливый интеллект. Как научить искусственный интеллект флиртовать?»

Самая доступная книга в списке — с юмором показывает, чем алгоритмическое «мышление» нейросетей принципиально отличается от человеческого.

8. Марк Солмс, «Скрытый источник сознания: В поисках природы субъективного опыта»

Нейробиолог и психоаналитик Марк Солмс предлагает собственную теорию сознания — через базовые потребности. И предлагает для ее проверки убедиться в том, что раз у LLM физиологических потребностей нет и не может быть, то и сознание у них не появится. А если появится, ну, значит, он не угадал...

9. Маттео Пасквинелли, «Измерять и навязывать. Социальная история искусственного интеллекта»

Социальный философ и пост-марксист Пасквинелли рассматривает историю ИИ как последовательную автоматизацию контроля над трудом.

10. Элиезер Юдковский, Нейт Соарес, «Если кто-то его создаст — все погибнут»

Автор «Гарри Поттера и метода рационального мышления» Юдковский не только рассказывает, почему создание сверхразумного ИИ приведёт к гибели всего человечества, но и объясняет, что это в принципе такое. Так как ему важно донести свою мысль до массового читателя, это иногда даже чересчур просто. Но интересно.

Здесь про все 10 книг подробнее

@contheory