У некоторых читателей может возникнуть впечатление, будто я против всяких ИИ, нейросетей и вообще подобного прогресса, считаю всё это опасным и потому хотел бы притормозить развитие технологий.
 
Нет, нет и ещё раз нет.
 
Это прекрасные инструменты в мире, который, по сути, представляет собой огромное поле нереализованных возможностей. Если я считаю, что спички рядом с нерадивыми детьми — довольно опасная вещь, из этого совершенно не следует, что я выступаю за закрытие спичечных фабрик.
 
Почти всякая достаточно мощная технология несёт вместе с возможностями и определённые риски. Когда-то примерно так же спорили о ядерной энергетике: мирный атом, немирный атом — хотя атому, в сущности, совершенно всё равно, какие человеческие намерения стоят за его использованием.
 
С искусственным интеллектом есть, правда, дополнительная сложность. Обычный инструмент обычно довольно предсказуем: молоток не принимает самостоятельных решений относительно того, куда ему ударить. Чем сложнее и автономнее становятся системы искусственного интеллекта, тем труднее заранее определить всё пространство их возможного поведения. В этом смысле речь уже идёт не просто о мощном инструменте, а о таком, который способен самостоятельно выбирать способы достижения поставленной цели.
 
Но и здесь я всё-таки вижу главную опасность не в самой технологии.
 
Меня гораздо больше беспокоят люди, в руки которых она попадает. Особенно те люди, которые лучше всех знают, что именно будет хорошо для человечества. Иногда даже возникает подозрение, что они знают это настолько хорошо, что само человечество в их прекрасном будущем становится несколько необязательным.
 
Есть довольно очевидная вещь, о которой почему-то часто забывают: люди, создающие идеи и технологии, и люди, которые затем будут ими распоряжаться, — совсем не обязательно одни и те же люди. Они могут жить в совершенно разных культурных мирах, руководствоваться разной этикой и преследовать совершенно разные цели.
 
В этом, кстати, заключалась наивность многих философов и социальных мыслителей прошлого. Они создавали прекрасные системы и почему-то предполагали, что воплощать их будут примерно такие же разумные, образованные и высоконравственные люди, как те, которых они мысленно держали перед собой. Но между идеей и её воплощением всегда стоит человек — со своими страхами, амбициями, жадностью, тщеславием, ограниченностью и обычной человеческой дурью.
 
Впрочем, даже так я, пожалуй, слишком возвышаю создателей новых технологий.
 
Они ведь тоже простые смертные. Способность сделать выдающееся открытие совсем не означает способности разумно распорядиться его последствиями. Более того, человек может быть гениален в одной области и совершенно беспомощен в другой.
 
Математик способен увидеть закономерность, которую до него никто не замечал. Инженер — построить невероятно сложную систему. Программист — создать то, что ещё недавно казалось фантастикой. Но область разума, способная открывать великие тайны мироздания или создавать системы искусственного интеллекта, — это вовсе не та же самая область, где живут этические принципы, способность к самоконтролю, умение понимать других людей, договариваться с ними и хотя бы более-менее сносно устраивать собственную жизнь.
 
Одно совершенно не гарантирует другого.
 
Поэтому меня иногда забавляет контраст между невероятной сложностью технологий, которые создаёт современный человек, и довольно архаичным устройством тех сообществ и институтов, внутри которых он их создаёт. Мы можем обсуждать сверхинтеллект, автономных агентов, колонизацию других планет — и одновременно выяснять отношения примерно теми же способами, которыми люди выясняли их сто, тысячу или десять тысяч лет назад.
 
Мир вообще полон подобных чудес.
 
Видано ли: столь древнее и во многих отношениях архаичное существо, как человек, всерьёз собирается создать разум, который однажды может оказаться сложнее его собственного.
 
И здесь есть ещё одна причина, по которой я отношусь ко всему этому одновременно с огромным интересом и с некоторой опаской.
 
ИИ — в определённом смысле наше зеркало.
 
Он создаётся на материале человеческой культуры, человеческого языка, человеческих знаний, наших текстов, представлений и способов рассуждения. А потому, глядя на наше философское, этическое и культурное наследие — и особенно на то, что из этого наследия человечество чаще всего выбирало для практического применения, что возводило в почёт и чему приносило жертвы, — безграничного оптимизма я почему-то не испытываю.
 
Возможности искусственного интеллекта внушают мне огромный оптимизм.
 
А вот готовность к нему самого человека — гораздо меньший.
 
Причём я вовсе не собираюсь ставить себя над человечеством и читать ему мораль с безопасной высоты. Моя собственная готовность к подобным инструментам тоже, мягко говоря, оставляет желать лучшего.