🤖 انویدیا یک قرنطینه سخت‌افزاری ساخت؛ راهکاری برای جلوگیری از فرار هوش مصنوعی!

‏اگر اخبار مرتبط با حوزه فناوری و هوش مصنوعی را در هفته‌های اخیر دنبال کرده باشید، احتمالاً گزارش‌های متعددی درباره فرار عامل‌های هوش مصنوعی از محیط‌های آزمایشی و انجام اقداماتی فراتر از دستورهای تعیین‌شده دیده‌اید.
این اتفاق‌ها نشان داده‌اند که صرفاً آموزش مدل برای داشتن رفتار ایمن کافی نیست و توسعه نسل جدید عامل‌های هوش مصنوعی به یک لایه امنیتی مستقل نیاز دارد.

‏انویدیا پلتفرم Nvidia Open Agent Safety Platform را در پاسخ به همین نگرانی‌ها معرفی کرده است. این مجموعه از دو بخش اصلی تشکیل می‌شود: نسخه OpenShell 0.1.0 که یک محیط اجرای عامل‌های هوش مصنوعی با مجوز Apache 2.0 است و نخستین‌بار در رویداد GTC معرفی شد؛ و Nvidia Sentry که به‌عنوان یک سامانه نظارتی روی پردازنده‌های BlueField-4 DPU اجرا می‌شود.

🎮 https://developer.nvidia.com/blog/nvidia-open-agent-safety-platform-a-reference-for-continuous-in-silicon-agent-monitoring/

#AI
✅ Channel
💬 Group