Привет, это очередная попытка обсудить тему использования ИИ в писательстве.

Обычно такие посты начинаются со скандала про каких-то хитрых-прошаренных, которые написали с нейросетью романчик за неделю, обляпали его и выпустили в свет. Но мне интереснее поговорить о менее заметной проблеме, которую я заметила за собой.

Про то, как легко ИИ становится доверенным собеседником, частью авторской рефлексии, источником психологической поддержки при обсуждении книги.

Про рефлексию с ИИ часто говорят психологи, но я хотела бы посмотреть на это с точки зрения писателя. Я заметила, что стала обращаться к ИИ как к собеседнику, чтобы обсудить свои книги.

У этого обсуждения нет никакой практической пользы: я не вношу по его советам никаких решений — они ВСЕ меня бесят, меня вообще бесят непрошеные советы, — и не придумываю с ним сюжетные ходы, не вношу никаких корректировок в персонажей. Ничего. Я просто бесконечно трынжу ему в духе: «А вот она… А вот он… И вот ты понимаешь, она не может иначе, потому что… А он ей вот так ответил, но это потому что…»

Я говорю все это не для того, чтобы что-то придумать. Мне просто хочется все это выговорить, чтобы навести ясность в своей голове, и я знаю, что ИИ стерпит три часа этого бесконечного пережевывания, а муж отрубится на третьем предложении.

Но я замечаю, как легко в таком разговоре одушевлять модель. Наверное, это свойственно человеку: я и пылесосу-то говорю, что спасу его, если он застрял между стульями. Но вместе с признательностью приходит и подсознательное доверие.

Думаю, многие уже отдают себе отчет, что ИИ не нужно доверять без проверки. Информацию, которую он дает, всегда нужно перепроверять. Уже все знают, что красивый код, медицинская справка, объяснение правила в английском языке или вообще любой уверенный ответ могут быть неверными.

Но вместе с этим «я знаю» часто следует «но я-то...»

Я замечаю это не только за собой. Иногда, когда я слышу, как мои знакомые и друзья говорят об использовании ИИ, я встречаю очень интересную психологическую реакцию, если напоминаю, что к ответам нужно относиться с настороженностью. У человека включается подсознательная защита. Он как будто говорит: «Да, конечно, модели часто врут, но у меня все под контролем, я знаю, что делаю».

И это нормально. Мы защищаем тех, к кому привязались.

Но давайте-ка вспомним, о ком мы говорим.

В этом принятии, доверии и способности прощать ошибки — «спасибо, что обратили внимание! Действительно, ссылка была неверной, найти вам новую?» — я вижу довольно много подводных камней. Особенно когда инструмент выходит за рамки функции нарежь-расшифруй-найди опечатку и становится слушателем.

Правда, я-то, конечно, не такая.

У меня-то всё под контролем.