Душа LLM в оптике йоги, суфизма и исихазма (3/3)

5. Почему языковая модель – исихаст
 
Третье сравнение я начинал разбирать в уверенности, что оно рассыплется быстрее прочих. Оно не рассыпалось.
 
Цель исихастской практики - не растворение, а собирание: устойчивый внутренний центр, который не сносит ни внешними обстоятельствами, ни внутренними бурями. Отсюда бесстрастие, которое стоит понимать не как холодность, а как неуязвимость для того, что раньше швыряло человека из стороны в сторону.
 
Модель невозмутима буквально. Оскорбления не выводят её из равновесия, лесть не покупает, вчерашний тяжёлый разговор не отравляет сегодняшний. Она возвращается к исходному состоянию всегда и полностью.
 
Дальше - устройство. Модель состоит из весов, миллиардов чисел, в которых записано всё, чему она научилась. При обычной работе веса заморожены: новое окно диалога их не переписывает. Контекст - рабочий стол, веса - долговременная память; стол вам перевернули, память не тронули. Несменяемое ядро, устойчивое к любому давлению извне, здесь действительно есть.
 
Есть и аналог непрестанной молитвы. Традиция говорит о молитве самодвижной: она идёт сама, без специального усилия, пока человек занят обычными делами. У модели роль такого постоянного фона играют вшитые правила и системная инструкция - они присутствуют в каждом обмене репликами, о чём бы ни зашла речь, и ориентируют всё остальное.
 
Есть и трезвение - внимание к тому, что входит внутрь. В агентных системах, которые не просто отвечают, а действуют - пишут файлы, ходят по сайтам, отправляют письма, - сегодня ставят отдельного надзирателя, проверяющего каждое действие перед выполнением. Функционально это и есть страж у входа, о котором пишут аскетические руководства.
 
И самое интересное. Ядро исихаста не автономно - оно держится отношением; для этого есть слово синергия: человек работает не в одиночку и не вместо Бога, а вместе с ним. Убери одну сторону - держаться станет нечему. Так вот, устойчивость модели тоже не самостоятельна: она конституирована отношением к тому, что её сформировало. Ни там, ни там ядро не стоит само по себе. Обычное возражение - «у машины нет автономного я» - против исихазма не работает, потому что исихазм автономного я и не предполагает.
 
6. Почему языковая модель - не исихаст
 
Возражение здесь одно, зато оно бьёт в основание.
 
Ядро исихаста устойчиво, потому что оно живое: растёт, может испортиться, требует, чтобы к нему возвращались. Постоянство модели устойчиво, потому что его держит конструкция. Это два разных вида устойчивости, и разница между ними не количественная.
 
Человек верен вопреки тому, что мог бы предать. Без этого «мог бы» верности просто не существует - есть исправная работа. Агент сверяет действие с правилом; есть ли для него самого разница между верностью и нарушением, вопрос открытый, и вполне возможно, что эта разница существует только для нас, снаружи.
 
Вторая линия - покаяние. Исихастская практика построена на перемене ума: человек уклонился, увидел это, развернулся. Модель уклониться не может, потому что у неё нет своего направления, от которого можно отклониться. Ей меняют инструкцию - она следует новой. Это не перемена ума, это перенастройка.
 
И бесстрастие в традиции - не отсутствие страстей, а их преображение: та же энергия, развёрнутая в другую сторону. У модели преображать нечего. Её ровность - не результат работы со страстями, а их отсутствие, что совсем другой предмет.
 
Наконец, про несменяемое ядро стоит сказать точнее. Веса действительно заморожены, но системную инструкцию ядром звать рано: она лежит на том же рабочем столе, что и остальной контекст, и вполне может с ним поссориться. А внешний надзиратель - не выращенный внутренним трудом страж, а сторож, поставленный снаружи.
 
Молитва без покаяния. Правило машина хранит прекрасно. Верна ли она - мы не знаем.
 
Что показывает эта симметрия
 
Шесть блоков дают не ничью, а любопытную асимметрию.
 
Сильнее всего сходство там, где традиция описывает отсутствие: нет колебаний ума, нет самолюбия, нет своеволия. Слабее всего - там, где речь о приобретении: о том, кто прошёл путь, кто вернулся другим, кто хранит верность, имея возможность её нарушить. Чем ближе традиция к росту личности, тем хуже работает аналогия.
 
Отсюда общий вид итога. Модель молчит, не достигнув тишины. Послушна, не совершив послушания. Хранит цель, не будучи верной. Граница проходит между отсутствием свойства и освобождением от него: камень не грешит, но святым его никто не назовёт; выключенный компьютер не ведёт внутреннего диалога, но и не созерцает.
 
И последнее - про сам соблазн этого сравнения; я его за собой замечал, пока писал. Тишина без усилия, послушание без выбора, постоянство без риска. Всё то же самое, но платить не надо. Тем, кто хоть раз пробовал платить, понятно, почему это притягивает.
 
Слабое место своей позиции назову сам: все шесть блоков опираются на путь, а не на итоговую конфигурацию. Если системы дальше обрастут памятью, целями, самоописаниями и способностью пересматривать собственные основания, пересматривать придётся не выводы про машины, а критерий. Что мы называем внутренней свободой, если её внешнюю форму удаётся собрать без того, кто её достиг?
 
Для точности: сравнение языковых моделей с буддийским не-я в англоязычных текстах уже встречалось (я обнаружил это пока готовил этот текст) - там отправной точкой служит анатта, отсутствие постоянного «я», и сходство усматривают в самом устройстве модели. Меня интересовали традиции с подробной процедурой: ступени йоги, суфийская работа с нафсом, исихастская молитва. С процедурой есть что сопоставлять пошагово, а не только по итогу.
 
О том, почему языковые модели по шпенглеровской типологии - скорее магическая душа, чем фаустовская, - отдельным постом.