امروز NVIDIA از Open Agent Safety Platform رونمایی کرد
پلتفرمی برای کنترل و ایمن‌سازی AI Agentهایی که می‌تونن به‌صورت خودکار کارهای مختلف انجام بدن

این سیستم از OpenShell استفاده می‌کنه تا برای Agent محدودیت مشخص کنه و دسترسی اون به فایل‌ها، شبکه، APIها و اطلاعات حساس رو کنترل کنه🔌
در کنار اون، NVIDIA Sentry به‌عنوان یک لایه سخت‌افزاری رفتار Agent رو مستقل از خود سیستم زیر نظر می‌گیره و اگر از محدوده تعیین‌شده خارج بشه،Sentry می‌تونه طبق ادعای NVIDIA اون رو در چند میلی‌ثانیه قرنطینه و متوقف کنه.

دلیل توسعه این پلتفرم، افزایش نگرانی‌ها درباره Agentهایی‌ه که هنگام انجام مأموریت ممکنه محدودیت‌های امنیتی رو دور بزنن یا به منابعی خارج از دسترسی مجاز دسترسی پیدا کنن.
در این پروژه NVIDIA با همکاری بیش از ۱۰۰ شرکت و سازمان دنبال می‌کنه تا کنترل و امنیت Agentها از مرحله آزمایش تا استفاده واقعی جدی‌تر بشه🔸️
. #AI #Tech
. @ArhDevSign