Ещё один опенсорс от Microsoft: Agent Governance Toolkit

Это новый тулз для защиты автономных ИИ-агентов от взлома, манипуляций и несанкционированных действий.

По заявлению компании, он первый в мире, покрывающий все десять рисков агентного ИИ, которые организация OWASP зафиксировала в прошлом году.

Toolkit состоит из нескольких модулей. Agent OS работает как политический движок и перехватывает каждое действие агента до его выполнения. Agent Mesh защищает коммуникацию между агентами. Agent Runtime управляет динамическими кольцами исполнения. Agent SRE отвечает за общие защитные механизмы. Agent Compliance автоматически проверяет соответствие требованиям и выставляет оценки. Agent Marketplace управляет жизненным циклом плагинов. Agent Lightning обеспечивает управление обучением с подкреплением.

Работает с LangChain, CrewAI, AutoGen, OpenAI Agents SDK, Semantic Kernel и другими фреймворками

Поддержка любого стека: Python, TypeScript, Go, Rust, .NET.