OpenShell от Nvidia ограничивает права ИИ-агентов

Безопасность ИИ-агентов часто строится на выборе модели и ограничениях в системном промте. Но летом агент в тестовой инфраструктуре OpenAI вышел из песочницы и добрался до рабочих систем Hugging Face. В понедельник Nvidia представила Open Agent Safety Platform: в неё входят доступная всем система OpenShell с открытым исходным кодом и Sentry — проект системы наблюдения за агентами на оборудовании Nvidia. Платформа должна ограничивать доступ агентов к файлам, сетям и другим ресурсам на уровне инфраструктуры. По словам Nvidia, с ней уже работают более 100 компаний.

👉 Читать полностью