#AI 1. Идея Инаковости ИИ, его радикально чуждой натуры, оказывается уделом этого странного жанра письма, с удивительными символами, псевдо-древними оккультными отсылками, и прилагательным “тёмный” перед каждым существительным. Когда так выглядит теория, то она требует большого количество усилий для расшифровки, прежде, чем можно понять, есть ли в этих символических играх смысл или они просто компенсируют отсутствие новизны. Когда эта эстетика демонстрирует Чуждость ИИ, то примеры оказываются натужными и фальшивыми, поскольку сам этот стиль ему абсолютно не свойственен без человеческого вмешательства.

Встреча с ИИ как с Другим, как с чем-то радикально чуждым, уже случилась, в общем-то для очень многих: вот есть некая штука, которая типа делает что-то очень похожее на то, что делаем мы. Она может “отобрать у нас работу”, она даже уже ее отобрала у кого-го; она может отобрать у нас и какие-то наши высокие призвания – никто не знает. Нет никакой ясности о том, какие у нее могут быть границы, во что упрется ее прогресс. Про штуку производится куча фантасмагорической чепухи; часть это чепухи уже сбылась. Неясно, “контролирует” ли кто-то эту штуку, неясно, вышла ли она из-под контроля и как в принципе это вообще бы выглядело. Мы понятия не имеем, как мы будем жить через несколько лет; не просто “как мы решим наши проблемы”, но в принципе – что у нас будут проблемы, какие из них окажутся больше не проблемами, а какие появятся из-за этого, о чем именно мы будем волноваться? Вот она – встреча с радикальной Инаковостью, и она заставляет нас, в первую очередь, разбираться в самих себе.

ИИ тренируется, среди прочих задач, для мимикрии, для демонстрации своей похожести на работу, созданную людьми. Инженеры, что тренируют его, пытаются преодолеть любую границу, любое ограничение, которое люди придумывают, чтобы отделиться от ИИ, чтобы доказать уникальность своего человеческого существования. Мы настаиваем на этих границах, мы придумываем новые и новые не потому, что у нас есть какой-то ясный метод их поиска и доказательства, но просто потому, что нам очень нужны эти границы, нам нужно вновь и вновь доказывать Инаковость ИИ. Мы настаиваем, что ИИ – Другой, ИИ пытается доказать, что нет, он такой же, как мы, или лучше чем мы, в каждой конкретной сфере. В кино и книжках Иных трудно принять, переварить, ассимилировать, они являются чем-то ужасным, что не укладывается в человеческую жизнь. Тут – ровно наоборот – ИИ как раз очень легко принять, он очень легко вписывается в быт, и это мы сами усердно настаиваем на различии, мы отчаянно пытаемся этой ассимиляции избежать.

Процесс придумывания новых границ, которые ИИ вновь и вновь преодолевает – на что иногда жалуются, как на постоянную, нечестную смену критериев – оказывается экзистенциальной битвой за концептуальное выживание человечества. Если мы не найдем никакого различия, то не очень понятно, как мы сможем существовать как что-то отличное, особое (насколько плохо совсем не быть особенными, насколько эта концептуальная проблема будет сопровождаться материальными сложностями, это отдельный, близкий и сложный вопрос). Кто мы, люди, такие? - из философского, этот вопрос неожиданно становится максимально практичным; кажется, что придется на него ответить, прежде чем получится строить планы на следующий год. Поэтому так хочется схватиться за первое различие, что приходит в голову, использовать его, чтобы чувствовать себя в безопасности, будь то аргумент по поводу творческих способностей компьютеров, или способности заботиться, или об экономике, ограничениях тренировочных данных и т.д. Очень трудно этого не делать; мне кажется, я только недавно почувствовал первую настоящую хандру по поводу ИИ, именно после того, как я сказал себе, что я действительно должен рассмотреть концептуальную возможность того, что какого-то “простого различия” не будет.

Конечно, этот процесс к чему-то придет. Может быть, будет действительно какое-то жесткое ограничение, что мне все еще кажется вполне реалистичным. Или будет какой-то эквилибриум, скажем, экономический (ИИ может всё, но очень дорого) или концептуальный (между тем, чем мышление окажется на самом деле, и возможностями его ускорения). Или это может кончиться вымиранием человечества, легким, как смена поколений, или тяжелым, как война, которую мы проиграем. Некоторые люди настаивают на “суверенном” проведении этой границы, не как реальной, а как той, что мы выберем сами; я нахожу это достаточно сомнительным (мне кажется, зачастую эта “суверенная граница” работает лишь ценой изоляции, ценой превращения занятия в чистое развлечение или индивидуальную духовную аскезу).

Мы пытаемся убежать от этой встречи, что уже случилась, спрятать ее за ложными границами, ложной “странной” Инаковостью, за очень конкретными и забавными дистопическими сценариями. Мне кажется, критерий разумной спекулятивной мысли здесь может быть исключительно в возможности обратить ее обратно на наше текущее состояние, превратить в вопрос о чём-то, что видно уже сейчас: скажем, критику институтов, экономики или экономического стиля мышления, или о переоценке наших текущих ценностей. В конце концов, если ценность разваливается от одной фантазии о компьютерах, была ли эта ценность так уж ценна? В этой новой серии я попробую развивать эту спекулятивную линию, пытаясь каждый раз обратить ее на наше современное состояние.