І оце стільки розмов було? Nvidia випустили систему для стримування автономних ШІ-агентів Open Agent Safety Platform 💃

Робили, ясна річ, по інциденту з Hugging Face, як найбільш критичному з огляду на те, якої фігні наробили агенти. Складається з двох компонентів:

🪙 OpenShell — задає жорсткі рамки для агентів і слідкує, щоб їх виконували;

🪙 Nvidia Sentry — слідкує за поведінкою агентів і шукає аномалії, щоб моментально порушнику зламати руки ізолювати доступи.

Нюанс, ясна річ, полягає у тому, що обидві компоненти хоч і опенсорсні, але розроблені під залізо Nvidia 🤣

ооо збори живуть дуже дякую (залишилося 30 964.79)