Если агент построен на линейной цепочке (
LangChain), его легко заставить выполнить инъекцию промпта. Графовая архитектура (LangGraph) позволяет строить границы безопасности.Защита через архитектуру:
— валидирующие узлы: каждый шаг LLM проверяется отдельным узлом (Guardrails);
— изоляция: агент не имеет прямого доступа к инструментам, только через граф;
— контроль потока: невозможность перепрыгнуть обязательные проверки.
Учим строить защищённых агентов. Курс уже стартовал.
Записаться на курс
Гляньте первую лекцию