Дело не в гуманитариях, а в конфигурации задачи. Или размышления о том, как внедрять ИИ в редакциях.

Давайте не про агенты, а про процессы. На митапе для редакторов в IT от YADRO я очень коротко рассказывал про то, как улучшить качество материалов, которые мы получаем от ИИ. И сам в процессе понял, что тема интересна даже не механиками, а психологией. Ведь я долго объяснял сопротивление ИИ у редакторов складом ума. Технари любят новое, гуманитарии, коих среди коллег большинство, держатся за ремесло. Удобная рамка, все кивают.

Рамка неверная. Я видел, как в её тени принимаются решения: «наймём тех, кто помоложе», «проведём воркшоп, они привыкнут». Не привыкают. Потому что сопротивление растёт не из склада ума, а из конфигурации задачи. Условий три, и у редакторов совпадают все три сразу.

Первое. Задача выглядит субъективной

Текст — это вкусовщина. Так его видит редактор, и не без оснований: он не может объяснить, почему эта фраза плохая, он её слышит. Там, где нет проверяемого критерия, доверять алгоритму не за что. Нечем поверить его выход.

Тут ловушка в слове «выглядит». Внутри редактуры полно вполне объективных кусков: факт сходится с источником или нет, термин единообразен или нет, структура соблюдена или нет. Но они не отделены, поэтому весь процесс окрашивается субъективным. Мы сами склеили проверяемое с непроверяемым и потом удивляемся, что доверие не выдаётся частями.

Второе. У человека есть экспертиза именно здесь

Десять лет практики, свёрнутые в интуицию. Это капитал, и он работает: редактор правит быстро и точно, не проговаривая ни одного правила.

Он же главное препятствие. Эксперт вообще плохо принимает советы, любые, не только машинные. Попробуйте предложить сильному редактору правку от другого сильного редактора И увидите ту же реакцию, что и на нейросеть. Просто человеку мы такое прощаем, а модели нет.

Третье. Модель спорит с твоим суждением, а не с чужим

Вот это самое недооценённое. Разница между «вот вариант коллеги, сравни со своим» и «вот вариант вместо твоего» кажется формальной. Она не формальная.

Почти все внедрения устроены по второй схеме. Модель отдаёт готовый текст, человек ставит оценку. То есть каждый раз ставится вопрос «ты или она», и каждый раз человек защищает себя. Мы буквально спроектировали процесс так, чтобы включалась самозащита, а потом называем результат технофобией.

Проверка на технарях

Если бы дело было в гуманитарной природе, разработчики принимали бы ИИ гладко. Не принимают.
Сеньор, который десять лет живёт в своей кодовой базе, тормозит ровно так же. У него та же тройка: качество кода он оценивает по неписаному стандарту, экспертизы вагон, и ассистент предлагает вместо его решения. Разница только в том, что он реже говорит об этом вслух — не принято.

Это, кстати, лучший аргумент в разговоре с руководством. Как только «наши редакторы боятся нового» превращается в «у наших редакторов совпали три условия, и у наших сеньоров они тоже совпали» — разговор переезжает с людей на процесс. А чинить процесс можно.

Что делать по каждому пункту

Расщепить задачу. Вытащить из «редактуры» то, что проверяемо, и назвать это отдельно. Редполитика в файле: что считается фактом, откуда берутся цифры, какие конструкции запрещены, что делаем с вендорскими заявлениями. Это больно, так как впервые заставляет команду проговорить то, о чём она молчаливо договорилась. Зато появляется предмет спора: критерий, а не вкус. И спорить начинают редакторы между собой, а не редактор с нейросетью.

Дать право править. Разница между «принять или отклонить» и «вмешаться внутрь» больше, чем кажется. В первом случае человек оценивает чужой результат целиком и потому придирается к целому. Поэтому одна кривая фраза хоронит нормальный текст, отправляя его на перегенерацию. Во втором он эту фразу просто переписывает и идёт дальше. Причём объём вмешательства почти не важен: достаточно, чтобы возможность править существовала. И вот что из этого следует. Чем плотнее вы закрываете процесс — «модель сама всё сделает, вам останется утвердить», — тем больше сопротивления получите на входе. Не потому что качество хуже, а потому что человеку не оставили места. Пайплайн, где нельзя ничего подкрутить, будет отвергнут скорее, чем пайплайн, который иногда выдаёт ерунду, которую можно поправить.

Поставить рядом, а не вместо. Обычная схема: редактор жмёт кнопку, получает готовый текст и ставит «ок» или «переделать». Но это не помощь, а экзамен, где экзаменуют его самого: свой вариант у него уже есть в голове, и принять чужой значит признать, что его был хуже. Он защищает себя, а не оценивает текст. Переставьте два шага: сначала свой заголовок, потом ещё три от модели — и он уже не сдаёт экзамен, а выбирает из четырёх, один из которых его. Отсюда три правила, и все они про то, кто в процессе автор:

1. Модель работает в начале, а не в конце: даёт сырьё — конспекты и черновики, — а не финал на утверждение, потому что чужой финал тяжело судить и хочется зарубить целиком, а из сырья просто собирают.
2. Вариантов всегда несколько: один — это закрытый вопрос «да или нет», где отказ стоит дорого, а три — открытый «какой», и даже слабые варианты работают, на их фоне видно, чем хорош сильный.
3. И своя версия появляется первой. Стоит один раз прочитать вариант модели и мысль уже не своя: дальше вы либо соглашаетесь с ним, либо спорите, но в обоих случаях думаете про её текст, а не про свой. Собственная идея просто не успевает родиться. Поэтому сначала набросайте свой заголовок — хоть кривой, хоть за тридцать секунд, — и только потом смотрите, что предложила модель.

Что не чинится

Под материалом стоит фамилия человека. Не модели. Пока это так, редактор будет проверять, и правильно сделает. Задача не в том, чтобы он перестал проверять, а в том, чтобы проверка стоила дешевле, чем написать самому.

И тут уже можно возвращаться к тому, о чём я рассказывал на митапе и рассказываю в канале. Но начинать, конечно, лучше вот с вышеописанных решений и договорённостей.

#контентменеджерское