Инженер Контекста

Созвонился во время обеда со знакомым аналитиком из очень прошлой жизни ещё даже до Яндекса. Просил консультацию по ИИ для контента и заодно рассказал как у них.

Без названия компании разрешил поделиться. Так вот

Руководство их уже не требует «уметь в промпты», сейчас это примерно как "владеть экселькой". Базовый минимум, уж простите за миюбойку. Если у аналитика "иишка не рыщет по суперсету в поиске инсайтов, то ты лох" — цитирую дословно. У разрабов, продактов, сейлов ситуация похожая.

И никто не растит команды. Раньше можно было хотя бы на стажёров и джунов попросить немножко, а сейчас говорят "у тебя же иишка есть". При этом от тех же людей ждут заметного ускорения внутри. Рост перестал быть ростом вширь. Единственная разрешённая форма роста — производительность на человека.

Из позитивного отметил, что сильно вырос спрос на людей, которые и в своей основной профессии шарят, и на досуге что-то сами делают в ИИ, немного кодят руками и могут навайбкодить что-то адекватное. Рассказал, что у них такого коллегу-аналитика три раза пытались схантить и три раза уговаривали повышением зарплаты.

Короче, я когда-то рассказывал молодым авторам, что для понимания как и что работает очень рекомендую самим хоть что-то поднять. Виртуалку, базу данных, сайт развернуть. Сейчас я бы ещё порекомендовал пройти курс по питону и почитать про алгоритмы и структуры данных.

Куда катимся...

Как я считаю галлюцинации своих ИИ-агентов

«ИИ иногда врёт» — это все знают. Вопрос, который редко задают: насколько именно и стало хуже или лучше за последний месяц? Если ты не можешь ответить цифрой, ты не управляешь качеством, ты просто надеешься, что новая версия модели пишет лучше.

Я решил, что надеяться — плохая стратегия, и начал считать.

Что вообще считать за галлюцинацию

У меня в конвейере фактчекер — отдельная стадия, отдельный вызов модели, которая не видела рассуждений автора. Её работа не улучшить текст, а поймать враньё: выдуманную цифру, несуществующий отчёт, цитату, которую никто не говорил, возможность продукта, которой нет.

Каждый прогон оставляет после себя технический отчёт с машинными счётчиками:

— сколько галлюцинаций поймано;
— сколько фактов пришлось поправить;
— сколько нарушений редполитики;
— какая доля источников из белого списка Tier-1.

Дальше скрипт собирает все отчёты за месяц в одну строчку тренда. Например, реальный тренд за четыре месяца по одному агенту:

1️⃣3️⃣ Март: 6 генераций → 0 галлюцинаций
1️⃣4️⃣ Апрель: 12 генераций → 2 (0.2 на генерацию)
1️⃣5️⃣ Май: 15 генераций → 18 (1.2 на генерацию) ❗️❗️❗️
1️⃣6️⃣ Июнь: 16 генераций → 0

Восемнадцать в мае, скачок в шесть раз на сгенерированный материал. Без метрики я бы это не заметил: фактчекер своё отработал, враньё поймано до публикации. Но цифра говорит о поломке в генерации. Разобрался и в июне снова ноль. Вот ради этого момента всё и затевалось: метрика поймала регресс, которого не видно глазами.

Как я это проверяю

Тут важный момент: если бы галлюцинации считал я сам, вручную перечитывая статьи, грош цена такой метрике. Весь подсчёт механический, я к нему руками не прикасаюсь.

Работает так:

1. Каждый прогон сам оставляет отчёт. Когда конвейер отработал, он пишет рядом технический файл-компаньон. В самом низу у него строчка машинных тегов, буквально:
hallucination:4, fact-corrections:6, policy-violations:0, cite-safety:8
Эти числа выставляет фактчекер по итогам своей стадии.

2. Там же таблица целостности. Отдельно отчёт фиксирует, что финальная редактура ничего не сломала: чисел было 47 — осталось 47, ссылок 18 — осталось 18, атрибуций 12 — 12. Если что-то разошлось, это видно сразу, а не всплывает в публикации.

3. Одна команда собирает всё в кучу: проходит по всем отчётам, вытаскивает эти теги и складывает в таблицу — по каждой статье строка: тип, тема, галлюцинации, коррекции, нарушения, доля Tier-1.

4. Вторая команда сворачивает в тренд — группирует всё по месяцам и считает дельты.

Получается честная цепочка без моего участия в середине: фактчекер разметил → парсер собрал → тренд показал. Я вклиниваюсь только в самом конце — читаю итог.

Важно!

«0 галлюцинаций» ≠ «модель идеальна». Это значит, что могут быть галлюцинации, которые фактчекер прозевал и факт уехал в публикацию. Поэтому есть второй контур — сверка уже вышедшей статьи с черновиком. То, что просочилось мимо всех проверок, всплывает там. Одна метрика ловит пойманное, вторая — пропущенное.

Плюс подпираю это косвенными сигналами. Доля источников Tier-1 выросла с 0.36 в апреле до 0.71 в июне — агенты стали чаще опираться на первоисточники, а не на пересказы пересказов. Меньше мусорных источников, меньше почвы для вранья.

Вывод: «ИИ иногда галлюцинирует» — это не метрика, это отмазка. Метрика — это «в мае 1.2 на статью, в июне 0, вот что я поменял между ними». Как только враньё модели становится числом с трендом, оно перестаёт быть магией и становится обычным багом, который видно на графике. А баг, который видно, уже наполовину починен.

#ai_agents

Какая среда, такие и мемы

Вернёмся к практике разработки фабрики контента. Как агент находит нужный факт в базе на 200+ карточек

Я вроде рассказал, как собрал агентам базу знаний-граф? Если не рассказывал, то там я пришёл к той же идее, что Карпатый описывал как LLM Wiki, — связный самоподдерживающийся граф концептов, где всё ссылается друг на друга в обе стороны. Могу отдельно рассказать про карточки и базу отдельно, если интересно.

Но база бесполезна, если агент не может достать из неё нужное. И вот тут началось самое весёлое. Наивный план был такой: агент формулирует запрос → ищем по тегам → отдаём карточки. Запустил. Агент спрашивает про «работу с базами данных» — находит ноль. Хотя в базе лежит жирный синтез с тегом databases.

Проблема — русский язык. Морфология, будь она неладна

Агент пишет запрос живым языком: «базами данных», «облака в России», «искусственного интеллекта». А теги в базе канонические: databases, cloud, ai. Точного совпадения нет. Падежи, порядок слов, синонимы — всё это ломает простой поиск.

Пришлось строить query expansion — разворачивать запрос перед поиском:

➡️ Синонимы и алиасы. «ИИ» и «субд» — это ai и databases. Ведётся словарь синонимических групп поверх таксономии: каждый канонический тег знает все свои народные варианты.
➡️ Лёгкий RU-стеммер. Отрезаю частое окончание, чтобы «облако», «облака», «облаком» сводились к одному стему. Намеренно тупой стеммер на ~10 правил, но его достаточно и он не тянет зависимостей.
➡️ Фразовый индекс по стемам. Многословный алиас «базы-данных» распознаётся во фразе «работа с базами данных» — по множеству стемов частей, несмотря на падеж и порядок слов. Внутри это frozenset стемов: пересеклись — попадание.

Синоним матчится не только против тегов файла, но и против его домена — это ловит карточки, где тема зашита в домен, а теги пустые.

fact-cards — отдельным потоком

Обычные синтезы ранжируются в общий шортлист. А вот проверяемые факты поднимаются отдельно с уровнем доверия (confidence) и допуском к публикации (allowed_use). Просроченные по expires из выдачи вырезаются молча, чтобы автор физически не смог процитировать протухшую цифру. Ретривер тут работает как фильтр доверия, а не просто поиск.

Playbook на каждый сценарий

Не «агент, посмотри базу». А конкретная карта: для этого типа материала подавай сначала fact-cards и позиционирование, конкурентов по релевантности, а вот эти слои вообще запрещены без явной проверки. Один сценарий — один playbook.

И самое важное — я это померил

Тут очень легко себя обмануть. Погонял поиск руками, пару раз он выдал что нужно и ты такой: «работает». А на деле ты проверил три запроса из тысячи возможных, и на четвёртом всё разваливается. «Вроде находит» — это не факт, это ощущение.

Чтобы перестать врать себе, я сделал скучную, но честную вещь: завёл метрики для поиска. Это просто список запросов, где я заранее, руками, отметил правильный ответ. Типа:

Запрос: «тренды систем управления базами данных»
Правильный ответ: вот эта карточка и вот эта

Таких пар у меня сейчас 15. Ключевой момент: правильный ответ я размечаю по смыслу, честно, а не подсматривая в то, что выдаёт мой же поиск. Иначе экзамен бессмысленный: я бы просто подгонял ответы под то, что система и так находит. Дальше прогоняю все 15 запросов через поиск и смотрю на три цифры.

Метрика 1: hit@5 — «нашёл ли вообще?»
Самый простой вопрос: в первых пяти результатах есть нужная карточка — да или нет? Считаю по всем запросам долю, где ответ «да». Сейчас это 1.0 — то есть по каждому из 15 запросов нужное лежит где-то в топ-5. Пока что промахов нет вообще. Почему именно топ-5, а не топ-1? Потому что агенту я и так отдаю несколько карточек — ему есть из чего выбрать. Мне важно, чтобы нужное попало в стопку, которую он получит.

Метрика 2: MRR — «а насколько высоко?»
Попасть в топ-5 мало. Одно дело — нужная карточка на 1-м месте, другое — на 5-м, за четырьмя лишними. MRR смотрит, на какой строчке стоит нужный ответ, и переводит это в оценку:
— ответ на 1-м месте → 1.0 (идеал)
— на 2-м → 0.5
— на 3-м → 0.33
— на 5-м → 0.2
Потом усредняю по всем запросам. У меня вышло 0.847 — в среднем нужное стоит между первым и вторым местом. То есть поиск не просто «где-то находит», а выносит правильное почти в самый верх. Это уже хорошо.

Метрика 3: precision@5 — «а сколько мусора рядом?»
И вот честная, неприятная цифра. Precision спрашивает: из пяти выданных карточек сколько реально по делу? У меня ~0.21. Грубо: из пяти результатов по-настоящему нужный обычно один, а четыре это «рядом лежало, зацепилось по теме». Выдача грязновата. Казалось бы плохо, но тут важно, для кого этот поиск. Если бы результат читал человек и ему пришлось глазами продираться через мусор — да, беда. А у меня получатель агент (LLM). Он получает стопку из пяти карточек и сам отбрасывает нерелевантное: контекста ему хватает. Поэтому я сознательно терплю низкую precision ради высокого hit@5, лучше отдать лишнее, чем упустить нужное. Но и это принципиально — цифру я вижу. Не прячу, не округляю в уме до «нормально». Если однажды агент начнёт захлёбываться в мусоре, я замечу это по метрике заранее, а не по кривым статьям постфактум.

Главный вывод: RAG на русском ломается не на эмбеддингах, а на морфологии запроса. Пока агент пишет «базами данных», а ты ищешь по databases — никакая база не поможет. Сначала научи систему понимать, что это одно и то же. А потом обязательно померь, иначе будешь улучшать вслепую.

#ai_agents

Ну, или так.

Питерские графы

Джуны не нужны. Что делать джунам?

Порог входа в профессию сильно увеличился, потому что задачи джунов как раз забрали на себя ИИ-сервисы. Раньше можно было двигаться постепенно, искать в чатах проекты, зарабатывать немного, но нарабатывать опыт. Сейчас... по сути этап получения опыта остаётся на вас. При этом я с большим скепсисом отношусь к заявлениям различных гуру нейросетей в стиле "пройди мой курс и начинай зарабатывать на создании контента". Да хрен там, простите. Писать простые тексты и рисовать картинки сейчас уже умеют все, люди не понесут вам деньги за этот опыт.

Но что делать? По сути все те же советы, что и раньше, но усилия умножайте на три.

Сузься: стань профи в одной теме

Модель усредняет все домены до общего. Реальный эксперт в одной области — облака, безопасность, финтех, что угодно — приносит суждение, которого у машины по этой теме нет. Выбери вертикаль и закопайся так, чтобы отличать правду от правдоподобного без гугла.

И расширься — перестань быть только редактором.

Коммуникатор. Вытаскивай из эксперта то, чего нет в интернете, знай, что зайдёт аудитории, умей договориться о смысле, а не просто изложить. Учись говорить с людьми, брать интервью, задавать вопрос, после которого собеседник выдаёт то, ради чего всё затевалось. Это не автоматизируется, потому что происходит между людьми.

Аналитик. Научись читать данные. Во-первых, сможешь мерить свой результат и приходить с цифрой, а не с «делал контент», а это единственное, что ценится в резюме. Во-вторых, найти в цифрах историю и не соврать в интерпретации — редкий навык сам по себе. Кто умеет в аналитику, приносит не текст, а смысл из данных.

Вкус. Когда текста бесконечно много, ценен не тот, кто пишет, а тот, кто с ходу отличает хороший от мусора и говорит почему. Тренируется сложно: читай много, сравнивай варианты, формулируй, чем один лучше. Цель — видеть слабое место в абзаце за секунды, а не за час. Кто это умеет — становится фильтром. А фильтр сейчас дороже генератора.

Удачи!

#контентменеджерское

Пятница, похулиганим…

Оптимизировал таки

Что на самом деле значит «ИИ-оптимизировал редакцию»

Коллега из чата редакторов Хабра написала, что «работа с ИИ-инструментами для оптимизации» в резюме редактора для неё red flag. И она права.

Без контекста, без цифр и списка функций это равно «уверенному пользователю MS Office». «Интегрировал ИИ-инструменты» про процесс, а не про результат. «Отвечал за контент», «руководил редакцией», «внедрял ии». За что тут ухватиться?

Раньше редактор без реального опыта прятался за «отвечал за контент». Теперь за «внедрил ИИ».

Так что красный флаг не в самом МИ, а в отсутствии числа за ним.

Как нужно писать резюме

Красный флаг: «Оптимизировал работу редакции с помощью ИИ-инструментов».

Зелёный: «Собрал агента, который делает первый драфт релиза. От брифа до публикации было три дня — стало четыре часа. Полгода поддерживал: ловил дрейф голоса, дважды переписывал скилл после регрессий».

Что конкретно сделано, насколько измеримо, что это освободило. И что ломалось в процессе.

Что вообще может стоять за «ИИ-оптимизацией»

Если человек правда что-то сделал, это ложится в один из пунктов.

— Скорость. Конкретный участок пайплайна ускорен: было столько, стало столько.
— Объём тем же составом. Столько-то материалов вместо стольки-то, без роста команды.
— Консистентность. Меньше ошибок, ровнее голос, фактчек встроен.
— Освобождение людей. С людей снята рутина, они забрали процессы, где нужнее.
— Новая функция. То, чего раньше не делали вообще: мониторинг, персонализация, скорость реакции на инфоповод.

«ИИ-оптимизация», которую нельзя положить ни в один из этих пунктов с числом, — это, скорее всего, ничего. Человек поиграл с нейросетью и вписал это в опыт.

Чтобы искал в резюме на месте коллеги

Настоящая работа с ИИ— это не запуск демо, это эксплуатация. Голос дрейфует, скиллы конфликтуют, модель начинает врать на новых темах. Кто написал «полгода чинил» — тот работал. Кто написал «внедрил», тот, возможно, провёл одну удачную презентацию.

Строчка про то, что сломалось и как чинил, стоит десяти строчек про «оптимизировал».

P.S.: Если в тексте ошибки будут, то сразу извините. Пишу с телефона в кафе Царского села.

#ai #контентменеджерское

Тема оптимизации под нейросети зашла плохо. И я это понимаю, всех бесит, что нужно писать для роботов.

Только давайте разберёмся, что именно вас взбесило. Мы уже лет двадцать пишем для машин — поисковых ботов. Ради него набивали текст ключевыми словами, раздували заметку на 300 слов до 1500, потому что «длинное ранжируется лучше». Пихали перед рецептом борща историю про бабушку и детство, лишь бы бот увидел «глубину». Плодили подзаголовки через каждый абзац и «в этой статье мы разберём» вместо того, чтобы просто разобрать. Но SEO, конечно, не сделало контент лучше, оно сделало его оптимизированным. А теперь новая задача от руководства: пиши для нейросети, сделай нам GEO, AEO, «оптимизируй под ИИ-выдачу».

Бесит, да. Но есть нюанс!

Поисковый бот не читает текст — он его сканирует. Считает ключи, мерит длину, взвешивет ссылки.
Это всё не имеет отношение к качеству, поэтому оптимизация под него и стала отдельной тёмной профессией: чтобы понравиться болванчику, надо было делать то, что живому читателю читать противно.

Нейросеть устроена принципиально иначе. Её натренировали на человеческом тексте. На миллиардах страниц, которые писали и читали люди. Она впитала наши же представления о том, что такое ясно, убедительно и интересно. И любит ровно она то, что любим мы: конкретику, факты, структуру, живую мысль, отсутствие воды.

Что я там писал, если обобщить: давать факты, структурировать, отвечать на вопрос прямо. Это же просто советы джуну-автору. Его продают вам как тайное знание про алгоритмы, а это просто «не халтурь». Да, есть тонкий слой технической гигиены: доступность, разметка, ссылки от источников, которым верят. Но это гигиена, а не новая профессия.

То есть оптимизация под нейросеть, если довести её до конца честно, схлопывается сама в себя. Она превращается в «пиши хорошо и не ври». Лучший способ понравиться машине — перестать писать для машины. Потому что машина училась у человека и любит человеческое.

Не беситесь и не оптимизируйте под нейросети. Пишите качественно. Это и есть вся оптимизация, которая работает.

#ai #контентменеджерское

Так его.

P.S.: Говорят, что все работает уже.

В отпуске больше времени, ноут в Питере с собой, так что сорри за много постов. Рассказываю про агенты. Последний месяц вплотную работал с качеством текста. Сделано там на тысячи и тысячи строк в github, включая скрипты проверки и многое другое, но сегодня расскажу про две вещи, которые обычно и отличают живой материал от прилично сгенерированного: угол (ракурс) и голос.

Начну с угла, потому что это, по-моему, главная болезнь генерации. Агент берёт тему и пишет «обо всём». Формально всё на месте — структура, подзаголовки, факты разложены, — а замысла нет. Ровный обзор, в котором ни одной мысли, за которую цепляешься. Такой текст можно дочитать и через минуту не вспомнить, о чём он.

Что я сделал. Сначала агент собирает фактуру, а из неё синтезирует несколько вариантов ракурса на выбор. Тут стоит отметить, что у человека на входе при постановке задачи часто вообще нет угла зрения, и это нормально. Задача агента предложить, под каким углом эта тема вообще интересна, и дать выбрать. Дальше он держит одно обещание читателю на весь материал. Не «расскажу про облачные базы данных», а конкретно что читатель поймёт или сможет сделать, дочитав. И под это обещание собирается тезис-карта: тезис, доказательства из ресёрча, контраргумент, ограничения, вывод. Не для того, чтобы забюрократить, а чтобы текст никуда не расползался.

Второе — голос. Тут я думаю про три слоя сразу. Нижний — не звучать как ИИ. Верхний — звучать как свой канал, узнаваемо. А посередине самый коварный, за него и взялся: не звучать как чужой канал. Объясню, почему коварный. Каждый формат тянет за собой свою интонацию, и она незаметно протекает туда, где ей не место. Классический случай — пресс-релизная речь в экспертной колонке. «Компания объявляет», «в рамках стратегии», «полный контроль под ключ», модальные обещания. В самом релизе это родная речь, всё честно. Но ровно те же обороты в авторской колонке или в телеграм-посте звучат фальшиво. Читатель чувствует, что ему продают, а не рассказывают. Раньше система этого не различала: стоп-слова вычищены, грамматика в порядке — значит, годится. Теперь она смотрит на плотность таких оборотов относительно канала. В релизе пропускает, в колонке подсвечивает и предлагает переписать. Голос стал привязан к тому, где текст выйдет, а не абстрактно «правильным».

Между автором и фактчекером я ещё поставил отдельный редакторский проход с баллом — он как раз ловит просадки и по углу, и по голосу и при слабом черновике возвращает агенту-автору на доработку. Но суть месяца не в баллах. Суть в том, что система перестала выдавать грамотную, гладкую, но безликую справку и начала писать материалы с замыслом и с интонацией под конкретную площадку. Медленнее, придирчивее, зато читать стало сиииильно менее стыдно.

#ai_agents

Не я. Я как раз в Питер.

Правда в моей случае это музеи, прогулки, кофе.

Длинное тире стало главной уликой эпохи ИИ. Люди в комментариях ловят авторов за руку, редакции вносят его в стоп-листы, копирайтеры вычищают из текстов, чтобы не заподозрили.

Только вот тире — не изобретение нейросети. Это классический знак хорошей русской прозы: у Цветаевой, Достоевского его горы. Модель насыпает его щедро потому, что училась на текстах, которые мы считаем сильными. Модели не портят язык — они копирует наши же представления о выразительности.

И получается, что живой человек, автор с нормальным чувством ритма, ставит тире и получает в комментариях «нейронка писала». Он идёт и меняет его на запятую. Потому что боится подозрения. Люди начали писать хуже, чтобы не быть похожими на машину, которая научилась писать, подражая людям.

Мы вычищаем из своих текстов признаки того, что раньше называлось хорошим стилем.

Что ещё часто использует нейросеть:

Двоеточие-заголовок. Эта конструкция бесплатно создаёт ощущение, что мысль уже сформулирована.

Триада. Два пункта звучат как недоделка, четыре — как список покупок, а три звучат как вывод.

Симметричное отрицание. «Это не про скорость. Это про доверие». Изящно, ритмично, абсолютно пусто. Ты героически опровергаешь тезис, которого не было, и на этом фоне выглядишь глубоким.

Ложная конкретика. «Пять признаков», «три ключевых принципа», «четыре причины, почему». Цифра создаёт иллюзию, что материал структурирован и что автор что-то посчитал.

Финальный подъём. Последний абзац обязан взлететь. Обобщить. Намекнуть, что мы с вами только что вместе поняли что-то большое и немного печальное.

Эти конструкции тоже не придумала модель, Это то, что мы веками считали «хорошо написанным текстом». Модель их не изобрела, она их у нас выучила и вернула нам в промышленных объёмах. Так что дело не в том, что ИИ пишет плохо. Он пишет ровно так, как мы его научили. И теперь, глядя в это зеркало, мы делаем самую странную вещь на свете: не улучшаем текст, а прячем из него всё, что похоже на отражение. Убираем тире. Ломаем ритм. Разбиваем триады. Пишем чуть хуже — лишь бы не приняли за машину.

И, кажется, я не смог написать про ИИ-паттерны, не используя ИИ-паттерны.

#ai #контентменеджерское

Пока побеждают мемы

Раз у меня неделя разгона про content ops, то давайте посмотрим на него с другой стороны и поговорим про корпоративные базы знаний.

ИИ-энтузиасты последние пару лет носятся с идеей второго мозга. Личная вики, заметки, LLM поверх них и вот у тебя внешняя память, которая помнит всё и отвечает на любой вопрос.

Дальше следует вывод: раз работает для человека, то давайте так же для компании. Свалим в одно хранилище всю корпоративную документацию, натравим LLM, получим второй мозг организации. Единый разум, который знает про компанию всё.

Проблема в том, что это уже пробовали делать задолго до всякого ИИ. Оно называлось базой знаний, вики, порталом, единым источником правды — и оно умерло.

Что случилось с корпоративной базой знаний

Свежий Knowledge Work Benchmark 2026 от iManage, опрос более 3000 руководителей и технических ЛПР в 26 странах, даёт цифру: сотрудник тратит в среднем 37 минут в день на поиск информации. Это около 123 часов в год, три полные рабочие недели, потраченные на розыск документов, которые должны находиться за секунды. И главный вывод отчёта, проходящий через весь текст: информационная архитектура должна идти впереди искусственного интеллекта.

Отдельно про качество того, что находится. По данным KM-опросов, 54% организаций держат документацию более чем на пяти разных платформах, а треть менеджеров прямо говорит, что данные, с которыми они работают, устаревшие, неполные или неточные.

Потому что база гниёт по умолчанию. Механика распада знакома любому, кто работал в компании больше года:

— продукт меняется, а документация нет;
— политику обновляют в письме и на созвоне, но не в вики;
— новичок учится не по статьям в Confluence, а у коллеги или руководителя.

И «реальный процесс» медленно расходится с задокументированным. Автор статьи уволился два года назад, и теперь у неё нет владельца. Никто не помнит, актуальна ли она, и никто не решается удалить. Дальше самоподдерживающийся цикл. Люди перестают доверять базе. Раз не доверяют — не пользуются и не дают обратной связи. Раз нет обратной связи — база деградирует ещё быстрее.

Небольшая иллюстрация, поймал сам, пока писал этот текст. Собирая фактуру, я едва не поставил сюда популярную цифру: «сотрудники тратят 9,3 часа в неделю на поиск информации, источник McKinsey». Её бодро перепечатывают статьи 2026 года. Полез за первоисточником, а там исследование IDC 2012 года. Четырнадцать лет назад. Цифра давно оторвалась от источника и ходит по интернету как свежая, потому что её удобно цитировать и никто не проверяет. Вот это и есть протухшее знание в чистом виде: правдоподобное, авторитетно атрибутированное, всеми повторяемое и мёртвое. Ровно то, что ваша вики скормит модели, а модель вам.

И это не проблема технологии. Ни один переезд с Confluence на Notion, с Notion на что-то ещё этого не чинил. Это проблема эксплуатации. У знания не было ни владельца, ни срока годности, ни процесса проверки.
А теперь мы собираемся натравить на это LLM.

Почему LLM не чинит эту проблему, а усиливает её

Ваша база знаний — это ровно связный, хорошо структурированный, семантически однородный корпус. Сто статей про «процесс релиза», из которых три актуальные, а девяносто семь — археология разной степени древности, написанные одним и тем же корпоративным языком про одни и те же сущности. Для модели это худший из возможных входов: не шум, который легко отбросить, а плотный слой правдоподобных дистракторов, неотличимых от правды по форме.

Личный второй мозг это переживает, потому что он маленький и у него один куратор — ты сам. Ты помнишь, что заметка от 2023-го протухла. Корпоративный второй мозг с куратором-LLM этого не помнит. Он просто уверенно процитирует вам регламент, отменённый полтора года назад, со ссылкой, в нужном тоне, без единого признака сомнения.

Раньше протухшая статья лежала в вики мёртвым грузом, и её просто никто не читал. Теперь она попадает в контекст и получает голос. ИИ превратил плохой Confluence в измеримый провал. Ассистент, который врёт про регламент, — это конкретный, наблюдаемый инцидент.

Кто за это отвечает

Отвечать за это должен человек. Не «новая платформа, на которую переедем и заживём», не новая LMM, не «мы все вместе договорились обновлять документацию» — это ровно то, что не сработало ни разу за двадцать лет.

Это работа около content ops, только повёрнутая внутрь. Наружу content ops отвечает за то, что компания публикует. Внутрь — за то, чем компания думает. Владелец жизненного цикла знания. Тот, кто чистит корпус, следит за сроками годности, ловит дистракторы и удаляет мёртвое. Тот, кто понимает, что чистый контекст — это не гигиена ради гигиены, а прямое условие того, чтобы модель не врала.

Личный второй мозг работает, потому что у него один хозяин. У корпоративного хозяина нет. Пока не появится.

#ai #контентменеджерское #contentops

Очень нишевые мемы

После постов про content ops получил в чате редакторов Хабра честный фидбек: подождём, как будет развиваться рынок. Как всегда коллеги к изменениям, спровоцированным ИИ, достаточно консервативно. Не спорят, не саботируют, а просто ждут. Позиция звучит по-взрослому, но я решил проверить её по цифрам исследованиям рынка. Через нейросети, конечно, но и ручками. 😎

Да, редакторы действительно осторожны

Редакции — самое скептичное звено внутри компаний. В опросе FT Strategies (почти 1900 человек в 19 медиаорганизациях) энтузиазм к ИИ выразили 57% топ-менеджеров и только 36% редакционных команд — меньше всех остальных функций. И у этой осторожности есть внешняя опора: по данным Reuters Institute, лишь около 12% аудитории спокойно относятся к новостям, полностью сделанным ИИ, и 62% — только к тем, что целиком написаны человеком. Редакторы это понимают и держат оборону. Так что консерватизм редакторов не лень и не аномалия. Это медианное поведение всей отрасли.

Но рынок то уже отреагировал

Внедрение ИИ у контент-команд выросло с 65% до 95% за два года (Orbit Media). В стороне остался примерно один из двадцати. Агенты уже не эксперимент: 34% корпоративных маркетинговых команд держат хотя бы одного автономного агента в проде, вдвое больше, чем в конце прошлого года.

Поисковый трафик из Google просел примерно на треть, AI Overviews показываются почти на половине запросов. А оптимизация под нейросети из модного словечка стала выделенным KPI у 37% команд — против 9% годом раньше.

И состав редакции меняется: джуниор-роли в копирайтинге сокращают (около четверти агентств уже урезали, треть планирует в этом году), а спрос на старших стратегов растёт.

Где коллеги правы

Легко было бы закончить на «вы отстали, догоняйте». Но тревога редактора за точность, бренд и доверие обоснована, и данные её подтверждают. Больше 70% маркетологов уже ловили ИИ-инцидент, при этом меньше 35% собираются вкладываться в контроль и защиту бренда. И читатель, оказывается, не против ИИ — он против халтуры. 81% B2B-покупателей спокойно относятся к ИИ-контенту, если он точен, конкретен и содержит оригинальные примеры. Но 67% узнают неотредактированный ИИ-текст, и у 58% из них это снижает доверие к бренду.

И вторая их правота в том, что работа свалится на них без доплаты. Эту тревогу я слышу даже чаще первой: «допустим, ИИ полезен, но чинить его, проверять за ним и держать весь этот зоопарк скиллов придётся мне, сверх и так полной нагрузки, и за те же деньги».

Исследование Berkeley Haas, опубликованное в Harvard Business Review, говорит нам, что ИИ не сокращает работу, а уплотняет её. Лёгкость и скорость, которую даёт ИИ, позволяет брать на себя больше, что приводит к увеличению количества параллельных треков, постоянной проверки выводов, растущей куча открытых задач. На выходе не свободное время, а перегрузка, усталость и выгорание. А аппетит работодателя при этом растёт: почти половина команд рассчитывает производить в 3–5 раз больше контента.

Но «ждать» не лечит ни то, ни другое

С качеством просто: ожидание его не защищает, а вообще не касается. Пока ты ждёшь, непроверенный контент всё равно производится, просто без тебя и без слоя проверки. И осторожность в форме медленного согласования уже сегодня стоит денег: две трети маркетологов регулярно упускают инфоповоды именно из-за медленных согласований. Инстинкт «защитить качество» удовлетворяется не паузой, а функцией. Верификация, ответственность за выпущенное, единая точка контроля — это и есть content ops. Отрасль это уже нащупала и сформулировала почти дословно: разрыв между внедрением ИИ и ответственностью за него вот где сидит настоящее конкурентное преимущество.

С деньгами та же логика, только жёстче. «Ждать» не спасает редактора от неоплаченной нагрузки, работа с агентами всё равно придёт. Вопрос только в форме. Либо она размажется по всем поровну и бесплатно — ровно то, против чего все протестуют. Либо станет отдельной позицией: с именем, зоной ответственности и оплатой. Content ops — это как раз про второе. Про то, чтобы новая работа была чьей-то и оплаченной, а не ничьей и даровой.

#ai