Отчет Datadog «State of AI Engineering 2026» основан на анализе телеметрии вызовов LLM у более чем тысячи клиентов компании.
6 ключевых выводов из отчета:
1️⃣ Доминирование мультимодельной архитектуры. 70% организаций используют 3 и более моделей, а доля компаний, применяющих более 6 моделей, почти удвоилась (41%). Прямые вызовы API провайдеров уступают место паттерну Model Gateway (например, OpenRouter или собственные шлюзы).
2️⃣ Накопление технического долга LLM. Инженерные команды быстро внедряют новые релизы, но крайне медленно выводят из эксплуатации старые модели в production.
3️⃣ Использование агентских фреймворков (LangChain, Pydantic AI, LangGraph, Vercel AI SDK и др.) выросло с 9,1% до 17.5% среди организаций. Разработчикам требуется сквозная трассировка (tracing) и телеметрия, чтобы выявлять неэффективную логику.
4️⃣ 69% всех входных токенов приходится на системные промпты: внутренние инструкции, политики безопасности, описания инструментов и схемы данных. На пользовательские промпты приходится лишь 28%.
5️⃣ Главным приоритетом становится Context Engineering — методы точной выборки (RAG), сжатия, дедупликации, суммаризации и формирования четкой иерархии информации, чтобы модель не теряла критические детали в длинном тексте.
6️⃣ Переход от монолитных агентов к микросервисным/мультиагентным архитектурам требует проброса контекста и трассировки через границы сервисов, а также формирования карт сервисов.
Разработка ИИ-систем превращается в дисциплину классической распределенной инженерии. Успех продуктов зависит не от красоты демо-версий, а от наличия непрерывных петель оценки качества (evals), проработанного инжиниринга контекста, контроля бюджетов/лимитов и сквозного мониторинга производительности и расходов.
@DevOpsKaz 😛