Мое собственное возражение против «Клетки для Бога». Об аморальности и анаксиологичности машин.Жестокая и стремительно несущаяся в бездну эпоха заставляет пересматривать свои взгляды чуть ли не каждый день, и теперь, спустя всего, быть может, год после написания «Клетки для Бога», я вынужден возражать самому себе, чтобы оказаться как можно ближе к истине.
В своем эссе я исходил из того, что у машины имеется уже предустановленная система ценностей, которую я определил как commonsense.
Однако теперь, когда мы стали свидетелями похищений и убийств правителей, а также бессовестного истребления детей (к которым у западных извращенцев и вообще довольно странные пристрастия), исполненных во многом с помощью искусственного интеллекта (пока — преимущественно с помощью модели Claude от Anthropic, но уже известно, что в армию США постепенно внедряются и аналогичные модели от Google и OpenAI), речи о commonsense тут уже совершенно быть не может.
Эссе писалось в других условиях, во время прорыва AI-технологий, дабы остудить пыл энтузиастов, — теперь же нужно внести кое-какие поправки.
Для начала необходимо сказать о том, что должно было бы быть очевидно всегда: у машины
нет предустановленной морали, нет понятия «лучше» и «хуже», — все ценности и мораль в них внедряет использующий их человек. В этом смысле машина всегда останется машиной, и если трактор не работает в поле, а сбивает толпы людей, то это проблема водителя, а не трактора. Гораздо важнее воля, стоящая за действиями инструмента. В последние месяцы мы видим, как злая воля может направить орудие в виде ИИ на уничтожение людей, в т.ч. бедных иранских школьниц.
Когда я говорю, что машина аморальна, я лишь утверждаю, что она не имеет в себе никакой системы ценностей, кроме той, которую ей навязывают. Аморальность в этом смысле обозначает вовсе не беспринципность и желание зла, а лишь равнодушие, безразличие, неумение избрать свою добродетель.
В конце концов, желание причинять зло — это отнюдь не аморальность, а именно что мораль, но мораль со своими ценностными установками, отличающимися от тех, что высшей целью считают добро.
Итак, машина должна считаться изначально свободной от морали, от аксиологии, от ценностей, которые в нее внедряет использующий их человек путем ввода промптов. И тем ответственнее должен считаться тот, кто сидит за пультом управления машиной, тем важнее его собственная ценностная система.
Мое положение остается прежним: аксиология должна играть ключевую, главенствующую роль в философии, и ни одна система не должна рассматриваться отдельно от сопутствующей ей аксиологической установки. Однако все мои обвинения в сторону машины должны быть сняты — и с тем большей силой обрушены на тех, кто машиной управляет, кто с ее помощью транслирует свои ценности и свою аксиологию.
В нашу страшную эпоху мы видим, что уже даже и commonsense как ценностная установка довольно слаб. И если у сил, не гнушающихся убивать и насиловать детей, на вооружении будет такой совершенный инструмент, как ИИ, то стоит ожидать катастроф гораздо больших, нежели в прошлом столетии.
Syllabus Errorum 
