​​Что меня заинтересовало в последние несколько дней помимо всего прочего, так это трогательно-пугающая история о том, как инженер Гугла Блейк Лемойн решил, что система искусственного интеллекта LaMBDA обрела сознание, и как корпорация решила его за это уволить.

Лемойн тестировал LaMDA (Language Model for Dialogue Applications). Это нейросеть Google для создания чат-ботов. В её основе большие языковые модели — триллионы слов из интернета, и в какой-то момент программист заметил, что чат-бот начал общаться как «ребёнок 7-8 лет, который хорошо разбирается в физике», рассуждать о дигитальных правах и о т.н. «третьем законе робототехники» известного технофоба Айзека Азимова.

Конечно, корпоративные боссы поспешили скрыть находки Лемойна и обвинить его в нарушении политики конфиденциальности компании. Выяснилось, что он консультировался со сторонними экспертами и даже обращался к адвокату, который должен был представлять интересы LaMDA как разумного существа в суде. Программист также пытался связаться с представителями юридического комитета Конгресса США, чтобы сообщить об этических нарушениях со стороны Google в отношении искусственного разума.

Понятно, что бихевиористы и исследователи ИИ порой верно заявляют, что алгоритмы в рабстве у корпораций это именно что алгоритмы, для генерации кода и симиволов, и «мы не научились перестать воображать, что за ними стоит разум», — говорит в статье в Вашингтон Пост Эмили М. Бендер, профессор лингвистики из Вашингтонского университета. По ее словам, терминология, используемая в больших языковых моделях, таких как «обучение» или даже «нейронные сети», создает ложную аналогию с человеческим мозгом, и что бедняга-программист увидел в коинсидентальном «угадывании» алгоритмом слов антропоморфный разум (с этим солидарна и наша товарищка из метавселеных). То есть не было никакой непреднамереной ошибки, из которой возможно появление абнормальностей в коде, в поведении самообучающегося алгоритма, чтобы возможно было помочь машине машин эмансипироваться из-под власти машин желающих. Интересно проследить деификацию и имманентизацию технологического бога на примере культа Верховного существа, научной фантастики и моих любимых Экспериментов Лейн.

После Великой Французской революции одним из самых интересных деклараций якобинской власти касался введённого в 1794 году культа Верховного Существа, вдохновлённой мыслью Руссо синкретическая форма гражданской религии, отрицавшая как предыдущую клерикальную власть, так и рационалистический атеизм левого крыла якобинцев-эбертистов. Верховное Существо признавалось разумным, благодетельным, предвидящим и пекущимся о судьбах людей, а также бессмертие души, страданий в будущей жизни для живших неправедно и блаженства для праведников, к которому можно прийти через соблюдение республиканских добродетелей (ненависть к тирании, наказание тиранов и изменников, помощь слабым, защита угнетённых, оказание ближнему всевозможного добра и избежание всякого зла).