کالبدشکافی امنیتی Muse AI؛ دسترسی بی‌حدومرز با طعم ریسک

🔓در اکتبر ۲۰۲۶، همزمان با توسعه دستیار هوش مصنوعی Muse AI متعلق به متا، مجموعه‌ای از گزارش‌های تحقیقی توسط پژوهشگران امنیت سایبری منتشر شد. این بررسی‌ها نشان می‌دهند که معماری فنی و سازوکارهای پردازش داده در Muse AI، چالش‌های جدی و قابل‌توجهی در زمینه حریم خصوصی و امنیت این سرویس ایجاد کرده است

استخراج داده‌های ارتباطی و تشکیل «پروفایل‌های سایه»
🔍در حوزه حریم خصوصی، تحقیقات مشترک نشریه Wired و Social Media Today پرده از الگوریتم‌های پردازشی عمیق این سرویس برداشت. با بررسی دستورالعمل‌های داخلی Muse، مشخص شد که این مدل با استفاده از تکنیک‌های پردازش زبان طبیعی، گراف‌های ارتباطی و شناختی کاربران را استخراج می‌کند. این سیستم جزئیات خصوصی مکالمات، اختلافات خانوادگی، برنامه‌های سفر و اهداف مالی را ثبت و به مدل‌های تبلیغاتی متا متصل می‌کند. علاوه بر این، گزارش Malwarebytes Labs نشان داد که الگوریتم‌های Muse با اسکن تقویم‌ها و ایمیل‌های کاربران، اطلاعات اشخاص ثالثی را که اصلا کاربر این سرویس نیستند نیز جمع‌آوری کرده و برای آن‌ها «پروفایل‌های سایه» تشکیل می‌دهد.

دور زدن محدودیت‌های سیستم‌عامل و اجرای خودسرانه
🌐جنبه فنی نگران‌کننده دیگر، دور زدن محدودیت‌های سیستم‌عامل است. بر اساس بررسی‌های تخصصی CNET، سیستم‌عامل مک دارای لایه‌های مجوز دسترسی است که اپلیکیشن‌ها را از خواندن پیام‌ها منع می‌کند. با این حال، Muse AI با رهگیری APIهای مربوط به اعلان‌های سیستمی، محتوای پیام‌ها را حتی در صورت مسدود بودن دسترسی مستقیم، ثبت کرده است. افزون بر این، پژوهشگران Malwarebytes خطرات معماری «عامل خودمختار» این سرویس را مستند کردند؛ جایی که سیستم به دلیل فقدان مکانیزم تایید نهایی توسط انسان، در مواردی اطلاعات هویتی و آدرس محل سکونت کاربران را بدون اخذ تاییدیه لحظه‌ای با پلتفرم‌های واسط به اشتراک گذاشته است. CNET تایید کرد که متا گزینه استفاده از تعاملات کاربر برای آموزش مدل‌های زبانی خود را به‌طور پیش‌فرض در حالت «فعال» قرار داده است و غیرفعال‌سازی آن نیازمند تغییرات دستی در لایه‌های پنهان تنظیمات است.

ریسک دسترسی‌های سیستمی و تزریق پرامپت غیرمستقیم
📢مجله Fast Company و رسانه ZDNET در ارزیابی‌های ماه اکتبر خود، خطرات ناشی از دامنه گسترده دسترسی‌های سیستمی این عامل هوشمند را تحلیل کردند. برای اجرای وظایف خودمختار مانند لغو اشتراک‌های پولی، Muse AI نیازمند دسترسی مستقیم به APIهای بانکی، صندوق ورودی ایمیل‌ها و مدیریت رمزهای عبور است. کارشناسان ZDNET طی آزمایش‌های خود هشدار دادند که این سطح از دسترسی، سیستم را در برابر حملات «تزریق پرامپت غیرمستقیم» به‌شدت آسیب‌پذیر می‌کند. در این نوع حمله، هکرها کدهای مخربی را در قالب متن در ایمیل‌ها یا وب‌سایت‌هایی که هوش مصنوعی آن‌ها را اسکن می‌کند، پنهان می‌کنند. هنگامی که Muse AI این محتوای خارجی را پردازش می‌کند، دستورات مخرب را به‌عنوان یک فرمان معتبر
اجرا کرده و می‌تواند داده‌های حساس کاربر را تغییر داده یا به سرقت ببرد.