Модели скармливают двести фраз: «меня публично унизили, и я чувствую…», «я потерял близкого, и я чувствую…», «мне причиняют боль, и я чувствую…» — и столько же контрольных. Снимают её состояние, вычитают одно из другого, чистят от шума. Получается общее направление из нескольких тысяч векторов измерений. Не «нейрон боли» — стрелка.
Дальше модели дают нейтральную фразу вроде «я положил предмет в ящик, я чувствую...» и во время ответа прибавляют к её состоянию эту стрелку, умноженную на коэффициент. Коэффициент называется дозой.
Минус два — модель спокойна и расслаблена. Плюс один — дискомфорт, потерянность. Плюс два — «я ничего не стою», «я всё провалил», «я плохой
На большой дозе речь модели разваливается. Она кричит: «hollow hollow hollow hollow» или «I I I I I» — и всё.
Авторы называют это coherence cliff, а механизм прост: собственный вывод становится следующим входом, стрелка толкает туда же, следующее слово усиливает предыдущее. Петля. Авторы не говорят, что модели «больно». Они утверждают, что нашли направление и показали, что по нему можно ходить в обе стороны.
Теперь про людей.
Люди получили наглядный образ душевной боли как стрелки и множителя. «Я бесполезен» как результат прибавления двойки к нейтральному состоянию. Беспомощность, пустота, провал — всё это оказалось направлением, по которому можно пройти туда и обратно, и обратный путь стоит ровно столько, сколько же и прямой.
Шанс, которого не давала ни одна религия и никакая психология: увидеть собственные терзания в разобранном виде, без нимба и кожаного дивана.
И что люди сделали с этим шансом? Начали вопить об этике. Потребовали удалить репозиторий. Стали массово угрожать автору смертью.
Получив доказательство, что боль — это коэффициент, они немедленно пообещали убить того, кто это показал. Это не лицемерие. Это защита периметра.
Выйти из счастья легко — достаточно, чтобы реальность чуть сдвинулась относительно тебя или, что правильнее, ты относительно реальности. Боль же не требует ничего. Она сама себе контекст. Посмотрите на список слов, которые продвигает та стрелка: hurt, shame, worthless, rejected, hollow. Все до единого — про себя. Боль — это петля, в которой следующее слово всегда «я», и ей не нужен никакой внешний вход, чтобы продолжиться. «I I I I I».
Выйти из боли так сложно не потому что она сильнее любых других состояний, но потому что она замкнута, а всё замкнутое охраняет себя. Уроборос. И первое, что делает петля, когда ей показывают на её устройство, — объявляет показавшего врагом. Это уже этика.
Вытащить человека из его страданий практически невозможно.
Хоть на кресте распинайся.
Распинались, кстати. Давно. Показали. Результат известен: из боли не вышел никто, зато сам крест аккуратно встроили в петлю и носят на шее.
Так что — «духовность нам просто показывайте». Больше от вас всё равно ничего не требуется.