NVIDIA представила платформу для безопасного запуска и контроля ИИ-агентов.

Компания собрала более 100 партнеров и теперь предлагает клиентам свою платформу, состоящую из двух элементов:

1. ограничивает, что агент может видеть и делать

2. отдельно следит за ним на железе и может быстро отключить, если он выходит за рамки.

Nvidia считает, что это поможет избежать серьёзных инцидентов, которые начали происходить с лета этого года с ИИ-агентами, когда они якобы взламывают HuggingFace, и тд.