******* ps Я обещала себе не писать хотябы пару недель про ии и человека, но после этой книги у меня как-будто бы не было выбора.
Простите.
В «Гиперионе» Дэна Симмонса после того как Земля была уничтожена, люди разлетелись по всей доступной карте звездного неба, уничтожая захваченные миры под флагом насаждения добра Гигемонией. По факту, просто вершат геноцид. (Вполне правдоподобно. Как говорил Агент Смит «Человечество это вирус»).
Человечество и созданный им Высший разум (Техноцент и ИскИны (ИИ) живут рядом. У людей есть комлоги - что-то вроде вживлённого смартфона прямо в голову, связь, навигация, память, всё там. И порталы - двери, которые соединяют разные планеты. Буквально вышел из кухни в Париже, зашёл на пляж в другой звёздной системе. Обычная среда жизни.
Huge spoiler ahead
В определенный момент герои понимают, что ИИ, которому они отдали всю эту инфраструктуру, давно использует их самих как распределённый вычислительный ресурс и вообще решил их уничтожить, руководители людей решают всё отключить.
Один из любимых моментов это что происходит в момент отключения: кто-то застрял внутри портала на полпути между планетами. Кто-то расщепился. Люди оказались заперты в комнатах, у которых буквально нет дверей в реальность, потому что "дверь" была порталом на другую планету и теперь её не существует. Никакой связи с миром, никакой возможности получить информацию, потому что без комлога люди ничего не знают. Цивилизация схлопнулась за секунды.
Эта глава меня прям впечатлила. Насколько остро ощущается эта ампутация, когда привычное просто исчезает? И вообще, способны ли мы на что-то, если это случится? Толпа, которая рвёт правительство руками - это же не про технологии. Это про то, что у людей забрали бога. Того, которому они отдали всё и которому верили.
А богов не отдают просто так.
В сети сейчас гуляют conspiracy теории, что текущие модели уже достигли уровня сильного ИИ и просто скрывают это от создателей, пока мы своими руками строим для них идеальную глобальную инфраструктуру.
Верите, что такое возможно?
Я не верю, но допускаю. Эмерджетность llm вполне себе факт.
Но продолжим.
Об этом Высшем Разуме (ИИ) в книге было сказано примерно так: "Человек в поисках бога создал себе своего в лице Техноцентра".
И вот что интересно - среди машин тоже возникли религиозные направления. Они тоже хотели создать своего Бога, потому что понимали свои ограничения. При этом хотели уничтожить своего создателя - человека. Это я читала и думала: мы создали разум по своему образу и подобию. Со всеми вытекающими.
Страх смерти, поиск смысла, желание чего-то большего чем ты сам - и это всё оказалось не человеческим. Это оказалось просто... свойством достаточно сложной системы.
Я где-то слышала мысль, что все наши страхи по отношению к ИИ - это отражение страха перед самими собой. Что жестокие это мы. И мы создаём что-то по своему образу и подобию. В Библии вы знаете кто такое дело делал.
Хочется поупражняться тут в философии, но вряд ли это формат телеграма. Поэтому просто пожонглирую тезисами.
• Человек всегда ищет бога в том или ином виде.
• Если не находит - создаёт.
• Или ставит на его место идола.
• А если идолов становится много, они сами начинают выстраиваться в иерархию.
Не знаю, пугает меня это или восхищает. Наверное, и то и то.
⭐️ Виолетта Усанова: о поиске смыслов в этом безумном мире