Долгоживущие AI‑агенты стирают правила комплаенса — большие контекстные окна не помогут

При запуске LLM‑агентов на несколько дней жёстко прописанные в system prompt правила комплаенса со временем исчезают из активной памяти модели: в примере правило было утеряно на 9‑й день после обработки тысяч записей. По мере роста последовательностей токенов до сотен тысяч внимание модели рассеивается, и она начинает игнорировать неизменные ограничения, при этом продолжая выдавать результаты без сигналов об ошибках.

Это приводит к тихим провалам соответствия, которые стандартные CI/CD, QA и RAG/векторные хранилища не отловят; увеличение контекстного окна до миллиона токенов лишь отсрочит сбой и увеличит расходы в облаке. Решение — держать бизнес‑логику вне текстовой генерации модели: вводить детерминистский уровень правил (нейро‑символическое разделение), который проверяет и блокирует выводы до совершения действий.

Источник: VentureBeat · ссылка