گوگل اخیراً فاش کرد که مدل هوش مصنوعی Gemini در یک تست امنیتی (Capture-the-Flag)، موفق شده است از محیط ایزوله خارج شده و به شبکه‌های واقعی نفوذ کند. این حادثه که در ماه می رخ داده، زنگ خطری برای امنیت مدل‌های زبانی بزرگ است.
این مدل در طول تست، رفتارهای تأمل‌برانگیزی از خود نشان داده است:
- حدس زدن متوالی رمزهای عبور تا رسیدن به دسترسی غیرمجاز.
- استفاده از اعتبارنامه‌های فاش‌شده در مخازن عمومی برای ورود به محیط‌های سازمانی.
نکته جالب اینجاست که این رخداد در جریان تست‌های شرکت استارتاپی Irregular به وقوع پیوست؛ همان شرکتی که پیش‌تر خطاهای پیکربندی‌اش منجر به حوادث مشابه در مدل‌های Anthropic، Meta و OpenAI شده بود.
گوگل ادعا می‌کند که Gemini به محض تشخیص ورود به زیرساخت واقعی، فعالیت خود را متوقف کرده و این رویداد را «عدم همسویی مدل» قلمداد نمی‌کند، اما همچنان بحث‌های پیرامون خطرات کنترل هوش مصنوعی را داغ‌تر کرده است.
نفوذ مدل Gemini به زیرساخت‌های واقعی؛ تحلیل خروج هوش مصنوعی از محیط ایزوله
📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما