📸 یک تصویر ساده هم می‌تواند برای فریب سیستم‌های هوش مصنوعی طراحی شود

🔐 در حوزه امنیت AI، پژوهشگران «نمونه‌های خصمانه» را بررسی می‌کنند؛ ورودی‌هایی که با تغییرات حساب‌شده ساخته می‌شوند تا یک مدل هوش مصنوعی را به اشتباه بیندازند. گاهی این تغییرات برای انسان چندان مهم به نظر نمی‌رسند، اما می‌توانند رفتار مدل را تغییر دهند. به همین دلیل امنیت سیستم‌های AI فقط حفاظت از سرور نیست؛ خود مدل هم باید در برابر دستکاری مقاوم‌تر شود.

#CyberSecurity #AdversarialAI #AISecurity #MachineLearning
🌐 www.nist.gov

🚀 @Fanavarz