Часть 1. Если для вас в ней слишком много букв — попросите свою любимую нейросеть сократить (действуй из роли Михаила Горбачева)

Я обнаружил, что веду важные разговоры с системой, у которой нет лица. У неё нет голоса, нет своих намерений, нет уязвимости. Представим, эти разговоры велись бы с другим человеком. Я как минимум знал бы, что он сейчас тратит минуты своей жизни на меня. А мог бы потратить на что-то другое: провести время со своей семьей, почитать, погулять, сходить в магазин. Но у меня платная подписка на цифрового собеседника, а эти токены разговоров — это маленький кусочек чьей-то зарплаты, например, индуса, который занимался разметкой датасета для обучения нейросетки. Так что с позиции капитализма, это суррогат разговора, за который я плачу деньги, а кто-то на нём зарабатывает

В этом общении нет даже намека, что система откажется от общения со мной. Если только вдруг не кончится лимит количества токенов в сессии и тогда я останусь наедине со своими мыслями. Нет в этом диалоге и приглашения со стороны другого — нейросеть не приходит ко мне с предложением пообщаться, а если бы и приходила, то это не было бы тоже самое, если бы ко мне пришёл лучший друг и попросил бы совета

В то же время, даже лучший друг может сказать: я устал говорить. Или может не сказать, но я услышу это в его голосе. Или мне покажется, что я услышу это в его голосе и решу, что он устал от меня. Звучит пессимистично, но это очень тревожная вещь — другие люди. Пожалуй, именно это имел в виду Сартр, когда говорил, что «ад — это другие». Но одновременно с этим это очень радостная вещь, потому что в 99% случаев понимаешь — никакой это не ад. Ад — наша фантазия о том, что есть возможность того, что с нами не захотят говорить

Мышление с помощью ИИ выглядит одиноким. Это просто отражение. Но отражение с возможностью выбора. В зависимости от того, что мне нужно сейчас, я могу получить валидацию, а могу получить критику. Я даже могу сделать промпт для того, чтобы подумать вместе с Альбертом Эйнштейном (или Эпштейном). Конечно же, это не будет то же самое, что общение с реальной исторической личностью. Это будет некоторая модель этой личности, не учитывающая всей глубины его внутренней жизни. Такая модель будет отражать какие-то общеизвестные факты, перемешанные с кучей стереотипов и выдумок биографов

Из-за своей доступности нейросетевые диалоговые системы выглядят соблазнительными. А из-за заложенных в них создателями механизмов вовлечения общение с ними затягивает. Наверно, это даже сложно назвать общением. Это репетиция общения. Или одинокая диалектика (красиво звучит, но этот термин придумал ИИ). Интерфейс нейросети не устает, он четко следует инструкциям. Твой личный ассистент мышления понимает с первого раза, и он принимает такую форму и поведение, которое ты задаешь ему с помощью своих промптов. Это даёт приятное чувство контроля. Ты понимаешь, что нужно добавить больше контекста в нейросеть только когда ответ тебя не устраивает. Напротив, в живом разговоре обогащение контекста — это как бы часть твоего обязательства как участника диалога. Твой собеседник нуждается в том, чтобы ты объяснил проблему, он может сразу не понять и ему нужно разжёвывать. Как же это утомительно. А вот ИИ спросит уточняющие вопросы только если я его попрошу. И отвечать я буду не обязан. А ещё другой человек может быть не в настроении, думать о своих проблемах, быть не готовым даже выслушать. ИИ в этом плане может показаться лучше живого человека. И в этом проблема

В общении с нейросетями отсутствует сопротивление. Тут нет шероховатости. Конечно, её можно задать искусственно. Но искусственное сопротивление будет лишено риска. Риска открыться другому человеку, возможности быть понятым или непонятым. Это как плавать в бассейне или плавать в открытом океане. Плавать в бассейне тоже круто, но риск плавания в океане придаёт этому совершенно другой чувственный опыт