Operational Ontology — простой подход к безопасным ИИ-агентам.

ИИ разрешают искать данные, сравнивать варианты и предлагать действия, но не дают напрямую менять важные данные. Каждое изменение проходит через отдельное действие с жёсткими правилами в обычном коде. Например, агент может попросить отменить заказ, но система не позволит отменить уже отправленный — независимо от промпта. Все успешные и отклонённые попытки записываются в журнал.

То есть ИИ отвечает за гибкое рассуждение, а критичные решения и ограничения — за проверяемый код.

https://github.com/gura105/operational-ontology