🔻انویدیا لایه امنیتی جدیدی برای مهار عامل‌های هوش مصنوعی ساخت

🔹انویدیا از پلتفرم امنیتی جدیدی برای کنترل عامل‌های هوش مصنوعی رونمایی کرده است که با ترکیب نرم‌افزار و سخت‌افزار، دسترسی عامل‌ها را محدود و در صورت رفتار خارج از چارچوب، آن‌ها را در چند میلی‌ثانیه قرنطینه می‌کند.

🔹پلتفرم Open Agent Safety انویدیا بر پایه نرم‌افزار متن‌باز OpenShell و سامانه سخت‌افزاری Sentry طراحی شده است. OpenShell محیط اجرای ایزوله‌ای برای عامل‌های هوش مصنوعی فراهم می‌کند و به سازمان‌ها اجازه می‌دهد مشخص کنند هر عامل به چه فایل‌ها، شبکه‌ها، ابزارها و داده‌هایی دسترسی داشته باشد.

🔹در لایه سخت‌افزاری نیز Sentry روی پردازنده‌های BlueField-4 فعالیت عامل‌ها را به‌صورت مستقل زیر نظر می‌گیرد و در صورت عبور عامل از محدوده تعیین‌شده، امکان توقف و قرنطینه آن را در چند میلی‌ثانیه فراهم می‌کند. این معماری برای ایجاد یک لایه امنیتی مستقل از خود عامل و مدل هوش مصنوعی طراحی شده است.

🆔@hooshio