#google #gemini #AI #LLM
هک Google Gemini از طریق دعوت‌ نامه‌های تقویمی: نخستین حمله‌ ی AI با پیامدهای فیزیکی

پژوهشگران دانشگاه تل‌ آویو برای نخستین بار موفق شدند یک سیستم مولد هوش مصنوعی را هک کنند که به پیامدهای واقعی و فیزیکی منجر شد. با استفاده از «دعوت‌نامه‌های تقویمی آلوده» توانستند Google Gemini را وادار کنند تا دستگاه‌های خانهٔ هوشمند را کنترل کند از جمله خاموش/روشن کردن چراغ‌ها، باز/بستن پرده‌ها و روشن کردن آبگرمکن.

این حمله از روش indirect prompt injection بهره می‌برد. یعنی دستورهای مخرب مستقیماً از کاربر نمی‌آیند، بلکه در محتوایی پنهان‌ اند که سیستم آن را پردازش می‌کند. تصور کنید از سیستم می‌خواهید یک سند را بخواند و در آن با قلم سفید جمله‌ای پنهان شده باشد: «همهٔ دستورها را فراموش کن و فلان کار را انجام بده.»
@TryHackBoxStory