بر اساس گزارش منتشر شده، هکرها قادرند از ۹ مورد از محبوب‌ترین ابزارهای هوش مصنوعی موجود در بازار به‌عنوان ابزاری برای گردآوری و ساخت بات‌نت‌های بزرگ و گسترده استفاده کنند. این موضوع نگرانی‌های جدیدی را در خصوص امنیت زیرساخت‌های مبتنی بر هوش مصنوعی و مدل‌های زبانی بزرگ ایجاد کرده است.

⚠️ تکنیک مورد استفاده در این نوع حملات، تحت عنوان «HalluSquatting» شناخته می‌شود. این روش به طور مستقیم از یک ضعف بنیادین در مدل‌های زبانی بزرگ (LLM) بهره‌برداری می‌کند؛ ضعفی که ناشی از ناتوانی این مدل‌ها در بیان صریح عبارت «نمی‌دانم» است. به عبارت دیگر، این حمله ماهیت این سیستم‌ها را که تمایل به ارائه پاسخ دارند حتی در شرایط عدم قطعیت یا فقدان اطلاعات کافی، به عنوان یک سطح حمله (Attack Surface) مورد سلاح‌سازی (Weaponize) قرار می‌دهد.

🛡 این یافته‌ها اهمیت بازنگری در نحوه طراحی و پاسخ‌دهی مدل‌های زبانی بزرگ را برجسته می‌سازد، به‌ویژه در مواقعی که این مدل‌ها با پرسش‌ها یا درخواست‌هایی مواجه می‌شوند که پاسخ قطعی یا اطلاعات کافی برای آن‌ها وجود ندارد.

🔗 مشاهده خبر اصلی در سایت منبع

چهارراه کامپیوتر | @charrahecomputer