Заметки лабораторного кота: “Вынесено из комментариев: -> Артур Кларк писал, что развитая технологи…”

Вынесено из комментариев:

-> Артур Кларк писал, что развитая технология не отличима от магии. Разве в этом стремлении магическому могуществу нет чего-то по-настоящему фаустианского?

Наверное, биотехнологии и искусственный интеллект — это то, где этот фаустианский дух, уподобление науки магии, проявляется ярче всего.

С одной стороны, биотехнологи как алхимики нового времени. Они возятся с яичниками сирийского хомячка, бычьей кровью, сушёными летучими мышами, корешками, эмбрионами мартышки и прочими компонентами из котла макбетовых ведьм, чтобы в конечном счёте создать человека в реторте или отыскать эликсир бессмертия. Их лаборатории — это что-то вроде алхимических мастерских, где главная цель та же: преодолеть природу, смерть и тленность через манипуляцию самой материей жизни.

С другой стороны, программисты ИИ как новые гоэтисты и некроманты. Они творят заклинания на языках Python и TensorFlow, чтобы придать форму и волю электронному демону в машине, чтобы он служил им и отвечал на все вопросы. Они, подобно магам, вызывающим духов, не могут быть до конца уверены, что демон не обретёт собственную волю и не утащит их всех в цифровой ад непредсказуемых последствий или потери контроля над ним. Или просто сведёт их с ума.

И в том, и в другом случае суть сделки фаустианская: мы жаждем могущества, граничащего с божественным. Платой за это могущество становится неопределённость — риск создать то, что мы не до конца понимаем и чем не сможем управлять.