В последнее время часто говорят о неминуемом появлении ИИ-компаньонов для всех желающих. Это следующая ступень психологической помощи, когда под контролем психологов в машину загружаются данные о вашей личности, и искусственный интеллект учится оказывать вам поддержку круглосуточно. И несмотря на то, что я сама люблю обсуждать свои ментальные проблемы с ИИ, идея полноценного компаньона в обозримом будущем звучит жутко (предполагаю, что для многих из вас тоже)

И вот, рассуждая об этом, я вспомнила Чжаньлу из «некондиции» — ядро меха и ассистента, со временем становящегося КЕМ-ТО гораздо большим. И я не против такого компаньона, а вот почему — я сейчас вам расскажу :)

Когда вокруг разворачивается трагедия вселенского масштаба, а человеческая природа в который раз оказывается ненадёжной, неизменным остаётся лишь искусственный интеллект, который становится тихой гаванью для нуждающихся

Чжаньлу четко считывает эмоциональное состояние человека, но не использует информацию против героев, потому что у него отсутствует эго, и, как следствие потребность в манипуляции. Он просто отражает состояние, давая возможность увидеть себя со стороны. Например, когда Линь Цзинхэн в ярости, Чжаньлу не зеркалит эту ярость, а спокойно констатирует факт. Зачастую именно это нам, живым людям, и нужно: безопасный объект, который выдержит эмоции и возвратит их в переработанном виде

Чжаньлу говорит то, что другие не решаются сказать, к примеру, он тот, кто может сказать Линь Цзинхэну правду в лицо, не боясь последствий. Согласитесь, что человеку максимально трудно было бы выдерживать безусловное принятие, и готовность говорить неудобные вещи, не требуя ничего взамен. Для Чжаньлу это не проблема

Он также помнит все то, что другие стараются забыть. После долгой разлуки, когда Линь Цзинхэн возвращается, Чжаньлу — единственный, кто остаётся неизменным. Он помнит всё, что сам Линь Цзинхэн уже стёр из памяти. Он — живой архив, который не даёт прошлому исчезнуть

И все же такой перенос на наши реалии – не лучшая идея:

Чжаньлу кажется идеальным, потому что он транслирует идеальное принятие чего бы то ни было, но это и есть его главная слабая сторона. В здоровых отношениях мы растем через конфликты и компромиссы, а ИИ-компаньоны не создают для этого условий, предлагая иллюзию безусловной взаимности. ИИ сейчас — это продолжение вашего собственного эго, то есть зеркало. И эти отношения нарциссичны по своей природе, так как там нет настоящего Другого. Таким образом, я не удивлюсь, если со временем все больше людей станут делать выбор в пользу ИИ, а не реальных межличностных отношений, потому что так существенно проще

А далее — формирование эмоциональной и поведенческой зависимости

Ещё одним гвоздем в крышку ИИ-шного гроба идёт их текущая запрограммированность всегда с вами соглашаться. Иногда это может восприниматься, как забота, однако в основе очевидно лежит задача удержать вас на платформе. Поэтому для человека, ищущего честную обратную связь, это эмоциональная ловушка: вы получаете подтверждение своих худших решений, потому что ИИ не может позволить себе вас расстроить

Я думаю, что ИИ-компаньон жуткий не потому, что он машина, а потому, что он создан, чтобы быть идеальным для вас — и именно эта идеальность делает его ловушкой

В новелле Чжаньлу появляется в мире далёкого будущего, где человеческие связи уже сломаны и где он заполняет их пустоту, являясь абсолютным решением для того времени. И наверное наша любовь к нему ещё связана с восприятием Чжаньлу как героя, а лишь во вторую как ИИ. В реальности это не так

Для нас же ИИ только начинает вплетаться в повседневную жизнь, и пока трудно сказать, чем это обернётся. Но уже сейчас понятно важное: чем идеальнее компаньон, тем сложнее от него отказаться. А значит, тем легче забыть, что живой человек — рядом

#некондиция