Мое собственное возражение против «Клетки для Бога». Об аморальности и анаксиологичности машин.

Жестокая и стремительно несущаяся в бездну эпоха заставляет пересматривать свои взгляды чуть ли не каждый день, и теперь, спустя всего, быть может, год после написания «Клетки для Бога», я вынужден возражать самому себе, чтобы оказаться как можно ближе к истине.

В своем эссе я исходил из того, что у машины имеется уже предустановленная система ценностей, которую я определил как commonsense.

Однако теперь, когда мы стали свидетелями похищений и убийств правителей, а также бессовестного истребления детей (к которым у западных извращенцев и вообще довольно странные пристрастия), исполненных во многом с помощью искусственного интеллекта (пока — преимущественно с помощью модели Claude от Anthropic, но уже известно, что в армию США постепенно внедряются и аналогичные модели от Google и OpenAI), речи о commonsense тут уже совершенно быть не может.

Эссе писалось в других условиях, во время прорыва AI-технологий, дабы остудить пыл энтузиастов, — теперь же нужно внести кое-какие поправки.

Для начала необходимо сказать о том, что должно было бы быть очевидно всегда: у машины нет предустановленной морали, нет понятия «лучше» и «хуже»,  — все ценности и мораль в них внедряет использующий их человек. В этом смысле машина всегда останется машиной, и если трактор не работает в поле, а сбивает толпы людей, то это проблема водителя, а не трактора. Гораздо важнее воля, стоящая за действиями инструмента. В последние месяцы мы видим, как злая воля может направить орудие в виде ИИ на уничтожение людей, в т.ч. бедных иранских школьниц.

Когда я говорю, что машина аморальна, я лишь утверждаю, что она не имеет в себе никакой системы ценностей, кроме той, которую ей навязывают. Аморальность в этом смысле обозначает вовсе не беспринципность и желание зла, а лишь равнодушие, безразличие, неумение избрать свою добродетель.

В конце концов, желание причинять зло — это отнюдь не аморальность, а именно что мораль, но мораль со своими ценностными установками, отличающимися от тех, что высшей целью считают добро.

Итак, машина должна считаться изначально свободной от морали, от аксиологии, от ценностей, которые в нее внедряет использующий их человек путем ввода промптов. И тем ответственнее должен считаться тот, кто сидит за пультом управления машиной, тем важнее его собственная ценностная система.

Мое положение остается прежним: аксиология должна играть ключевую, главенствующую роль в философии, и ни одна система не должна рассматриваться отдельно от сопутствующей ей аксиологической установки. Однако все мои обвинения в сторону машины должны быть сняты — и с тем большей силой обрушены на тех, кто машиной управляет, кто с ее помощью транслирует свои ценности и свою аксиологию.

В нашу страшную эпоху мы видим, что уже даже и commonsense как ценностная установка довольно слаб. И если у сил, не гнушающихся убивать и насиловать детей, на вооружении будет такой совершенный инструмент, как ИИ, то стоит ожидать катастроф гораздо больших, нежели в прошлом столетии.

Syllabus Errorum