Коллеги очень четко обозначили тезисы из моего материала о перспективе появления робосолдат с ИИшными мозгами на поле боя.

Что же, друзья, резюмируя: всё человечество давно и прочно загнано в циничную яму. Высокие технологии, в том числе, интернет, компьютеры и навороченные смартфоны стоило бы оставить сугубо военной, промышленной и научной сферам (разумеется, со строжайшим контролем над ними и при условии рационального применения, которое прежде следовало бы выработать нормативно и придерживаться его неотступно), не пуская их в народ. Но это же не то, верно? Ну конечно. И ставка на массовое распространение была вполне сознательной, и она более чем сыграла. Интернет и его носители вышли из военно-академической среды в массовую по заветным коммерческому, потребительскому, геополитическому векторам. Сеть закономерно стала не только инструментом знания и связи, но и рынком внимания, инфраструктурой контроля, средой, где человек одновременно и пользователь, и товар.

Экзистенциальный страх — базовая, глубинная основа человеческих мотиваций — должен быть на весах решений тяжелее? Увы. Если бы это было так, то человек не освоил бы даже палку как копьё. Но он не просто освоил: всё цивилизационное развитие, написано кровью и вымощено костями — оправданными и неоправданными. Страх здесь — топливо: он заставляет вооружаться, опережать, строить, закрывать уязвимости. А вот вопрос «кто им управляет и куда направляет» — действительно вопрос.

И сейчас как никогда актуален, к примеру, роман Марка Твена «Янки при дворе короля Артура» — пророчество о технологической смуте от 1889 года. Роман, который многие восприняли как забавную фантазию о путешественнике во времени сегодня читается как жёсткое предупреждение о последствиях технологического рывка для неподготовленного общества, — пишут коллеги из канала «Давайте Разберёмся!» в своём анализе произведения.

Человек же не убоялся в конце концов сделать себя заложником оружия массового поражения. А ядерное сдерживание — не победа над страхом, а его бюрократизация. Промежуточные точки невозврата давно пройдены; за них можно считать любой виток прогресса — несущий благо, но приближающий финальную, катастрофическую точку. Прогресс не отменяет насилие, а переоснащает его. Он делает инструменты изощрённее, дороже и всё более автономными.

Да, формально воюют субъекты права, а роботы, как и любое оружие — инструмент. Но здесь есть важная оговорка: чем автономнее система, тем сильнее размывается ответственность. Инструмент, который сам выбирает цель, перестаёт быть просто продолжением воли. Он становится участником, пусть и без субъектности. ИИ в этом смысле — не просто очередное оружие. Это среда, ускоритель решений, замена посредников, инструмент, который переписывает правила самой инструментальности.

И чем дальше идёт прогресс, тем изощрённее и дороже становится инструментарий — не только военный. В этих условиях страх не может быть универсальным тормозом: пока есть жила, сильные мира будут разрабатывать её ради наживы. Экономика, конкуренция, геополитика, рынки — всё это подталкивает к движению вперёд даже тогда, когда разум нет-нет да заикается об остановке. Причём, страх распределён неравномерно: те, кто принимает решения, часто не несут последствий; те, кто несёт — не решают. Поэтому надежда на то, что человечество вовремя испугается и остановится — наивна. Испуг — не институт. Осторожность — не то же самое, что страх: она требует правил, тормозов, снова — ответственности и механизмов, которые не зависят от доброй воли отдельных акторов.

В итоге проблема не в том, что человек не боится. Проблема в том, что он боится недостаточно коллективно и слишком поздно. И циничность, в том числе, и в этом: человечество и отдельные его деятели и властители видят край — и всё равно идут вперёд.

Потому что остановиться для одних — значит в тот же миг проиграть другим — тем, кто не остановится.

⭐Ирина Альшаева, журналист, военно-политический аналитик, писатель⭐

#технологии #ИИ #роботы #война #прогресс #точканевозврата #ИринаАльшаева