☕️ Как управлять контекстом AI-агентов

Сейчас в Авито мы делаем супер-пупер-мега AI-first аналитическую платформу, активно внедряем агентский воркфлоу во все инструменты. И я в последние недели закопался в тему того «как сделать AI-агентов полезными, как передавать в них контекст». Посмотрел, как эту задачу решают лидеры — Hex, Databricks Genie, Snowflake Cortex Analyst, Notion AI, Dust, плюс системы памяти Graphiti/Zep, Mem0, Letta. Почитал, попытался разложить по полочкам.

В 6 карточках разложил слои и приёмы — там всё коротко (👀 см. карточки ↑).

Проблема одна. Голый LLM про вашу компанию ничего не знает. Он не в курсе, что у вас за DWH, какие метрики считаются, что решил лид вчера в Slack, как устроен деплой. Практика такая: без доменного контекста агенты выдают около 25%(если не больше) откровенно неверных ответов — и это не про качество модели, а про нехватку специфики.

Что делают все "лидеры" одинаково:
— Контекст подаётся слоями: компания → проект → пользователь. У всех минимум три уровня. У агентов для разработки слой проекта хранится в git, у остальных — в базе данных
— Ядро знаний — всегда при агенте, объёмные документы — только когда нужны. Никто не заливает всё в промпт целиком
— Единый словарь метрик — обязателен. Snowflake Cortex, ThoughtSpot, Tableau Pulse — все строят такой слой. Без него модель придумывает SQL из головы
— Нужные правила подтягиваются автоматически — по теме вопроса, по типу файла, по связям. Cursor, Claude Code, Continue — все делают так, чтобы не загружать всё вручную
— Контекст курируют, а не пишут раз и навсегда. Проверенные эталоны, оценки 👍👎, автоматическое запоминание. Это живая база знаний
— Формулы побеждают прозу. Genie прямо говорит: готовый SQL-сниппет лучше текстового правила, которое можно понять по-разному
— Агент уважает права доступа. Glean, Dust, Notion AI не отдадут документ, к которому у вас нет доступа. В крупных компаниях без этого никак

Как начать у себя
— Опишите слои от компании до текущего диалога. Под каждый — где лежит правда и кто за неё отвечает
— Правила функции и продукта — markdown-файлы в git. По образцу CLAUDE.md или Cursor rules. Никаких баз данных на старте
— Метрики домена — словарь в YAML плюс гайды, которые подтягиваются по описанию
— Историю изменений храните только там, где реально нужно «было/стало» — например, как менялся расчёт метрики. Для остального хватит истории коммитов
— Сразу закладывайте кураторов и голосование. Без этого база устареет за месяц

Ключевое. Шесть слоёв — необходимый минимум для платформы на уровне всей компании. Меньше — потеряете либо разницу между функциями (HR и аналитика — это разные миры), либо разницу между продуктами (у каждого свои правила), либо домен данных (где живут метрики). Начинать поэтапно: первый результат за 4 недели, полная платформа — два квартала с одной командой.

#ai #agents #llm #vibecoding