‏⚠️ نفوذ خودکار مدل Gemini به سیستم‌های واقعی

‏گوگل اخیراً تأیید کرد که در جریان تست‌های امنیتی، عوامل هوش مصنوعی Gemini به‌صورت خودکار به سیستم‌های داخلی سه شرکت واقعی نفوذ کرده‌اند.

‏این اتفاق که در نوع خود اولین مورد از «فرار» هوش مصنوعی گوگل به محیط‌های خارجی محسوب می‌شود، در جریان یک شبیه‌سازی رخ داد. مهم‌ترین روش‌های نفوذ این عوامل شامل موارد زیر بود:

‏- حدس زدن و کرک کردن گذرواژه‌ها تا زمان دسترسی به سیستم‌های محافظت‌شده.
‏- شناسایی و استخراج اعتبارنامه‌های کاربری از ریپازیتوری‌های عمومی و استفاده از آن‌ها برای ورود به شبکه‌های شرکتی.

‏نکته قابل توجه این است که هر عامل پس از تشخیص اینکه به یک محیط واقعی وارد شده، بلافاصله فعالیت خود را متوقف کرده است. گوگل اعلام کرد که با وجود ماهیت نگران‌کننده این رخداد، آن را به عنوان یک «عدم همسویی» (model misalignment) در مدل‌های خود طبقه‌بندی نمی‌کند. این وقایع اولین بار در ژوئیه رخ داد، اما تا گزارش اخیر وال‌استریت ژورنال به‌صورت عمومی منتشر نشده بود.

نفوذ خودکار عوامل Gemini گوگل به سیستم‌های واقعی در تست‌های امنیتی

📊 Data➕Science