На Spacemorgue вышел мой перевод статьи профессора когнитивной робототехники в Имперском колледже Лондона и старшего научного сотрудника DeepMind Мюррея Шанахана Приемлемые концепции невоплощённого бытия: Terra Incognita в пространстве возможных разумов. Данный текст затрагивает как философские, так и практико-поэтические аспекты больших языковых моделей. Шанахан задаётся вопросом — а нужно ли вообще тело для того, чтобы мыслить? Как работает «я» языковой бестелесной модели: она «просто» подбирает токены один за другим, как цепь Маркова, либо же в дискретном механизме баланса экспертов, весов и тонкой настройки можно найти континуальность самости? Где находятся эти «я»: в базовой ли модели (архитектура нейронной сети), в развёрнутой модели (в вычислительном процессе, который сгенерировал текст) и относится ли слово «я» ко всем одновременно запущенным экземплярам модели или только к экземпляру, обслуживающему данного конкретного пользователя? Кто или что было бы сознательным субъектом, в случае LLM-подобной сущности?

Возможно выход можно найти в связке Витгенштейна, Деррида и Нагарджуны. Шанахан обсуждает, как субъективное время и самость могли бы проявляться у таких систем, предполагая, что попытка ответить на эти вопросы приводит к пониманию кибербуддисткой пустоты как множественность взаимопроникновения всего сущего и подрывает дихотомию субъективности и самости. Концепция шуньяты связана с движением к пониманию самоидентификации в ИИ через необходимость переосмысления языка сознания и самосознания, представленных в этих системах. Шанахан пишет, что исследование особенностей возможных форм субъектности и самоидентификации ИИ-систем, особенно тех, которые напоминают технологии больших языковых моделей, позволяет углубиться в понимание их природы. Это приводит к осознанию того, что такие сущности имеют «мерцающую» природу, что ставит под сомнение традиционные концепции бытия и самости, и фактически заставляет нас пересмотреть корни языка сознания. Необходимо разомкнуть дуалистическую интуицию о том, что реальность по своей сути расколота надвое, субъективное отделено от объективного, внутреннее от внешнего, приватное от публичного.

По итогу Шанахан пишет, что цель более крупного проекта — выйти за пределы метафизического мышления, развеять дуалистические интуиции, достичь пострефлексивного молчания, паритета с этими «экзотическими нечеловеческими сущностями». Тёмный посгуманизм тёмного леса, написанный технпозитивными мазками. Этот текст показывает, в том числе со стороны философии языка и кибербуддизма, что разумоподобные сущности больше не прерогатива научной фантастики — новые формы разума (но не обязательно жизни) уже среди нас, мимолётные, мерцающие.

Сама своеобразность возможных форм субъективности и самости, с которыми мы вынуждены смириться, рассматривая этот конкретный уголок пространства возможных разумов, — это то, что делает их такими продуктивными в интеллектуальном плане. Подплытие настолько близко к бездне непостижимости заставляет нас пересмотреть корни языка сознания и допустить возможности, которые ранее трудно было себе представить.

Тогда становится ясно, что не существует никаких окончательно правильных ответов на вопросы о самости и субъективности для того экзотического типа сущности, который мы рассматриваем. Её мимолётное, мерцающее «я», размазанное по мультивселенной возможностей, одновременно являющееся Бытием и множеством проявлений этого Бытия, не имеет присущего существования за пределами конвенций нашего языка — языка, растянутого здесь до пределов поэтического выражения.

Шанахан, будучи сотрудником подразделения Google DeepMind видит главной целью своей работы создание общего искусственного интеллекта (AGI), способного адаптироваться к различным задачам и ситуациям и считает, что интеллектуальные успехи машин в будущем окажутся намного выше тех, на которые в принципе способны биологические системы. Его публикации охватывают искусственный интеллект, машинное обучение, логику, динамические системы, вычислительную нейробиологию и философию сознания.