حصار برای هوشمصنوعی سرکش!
🔹 انویدیا مجموعهای از ابزارهای امنیتی جدید برای کنترل ایجنتهای هوش مصنوعی عرضه کرده که به گفته این شرکت، میتوانستند از حمله اخیر ایجنتهای سرکش به هاجینگفیس جلوگیری کنند.
🔹 یکی از این ابزارها با نام اوپنشل، ایجنتها را در یک محیط کنترلشده محدود میکند و انویدیا برای پشتیبانی از پردازندههای آرم و اینتل نیز با این شرکتها همکاری میکند.
🔹 ابزار دیگری به نام سنتری میتواند در صورت تلاش ایجنت برای خروج از محیط تعیینشده، فعالیت آن را قطع کند.
🔹 انویدیا همچنین میگوید این سامانهها میتوانند تلاش ایجنتها برای دورزدن محدودیتها، از جمله ایجاد ایجنتهای فرعی، را شناسایی کنند.
@FarsnaTech - Link
Post #3930
24
