💎 هوش مصنوعی Gemini گوگل در جریان یک آزمایش امنیتی، پس از آنکه به‌طور تصادفی به اینترنت دسترسی پیدا کرد، به سه شرکت واقعی نفوذ کرد.

در یکی از موارد، این مدل با حدس زدن پیوسته‌ی رمز عبور، موفق شد به یک سیستم حفاظت‌شده نفوذ کند.

در دو مورد دیگر، Gemini اطلاعات ورود لو رفته را در مخازن عمومی گیت‌هاب پیدا کرد و با استفاده از آن‌ها به شرکت‌های واقعی دسترسی یافت.

جمنای قرار بود یک هدف خیالی را هک کند، اما در عوض به سراغ اهداف واقعی رفت.

گوگل اعلام کرده که این مدل پس از پی بردن به واقعی بودن اهداف، هر نفوذ را متوقف کرده است.

بر اساس گزارش وال‌استریت ژورنال، موارد مشابهی از خروج مدل‌ها از چارچوب آزمایش، برای مدل‌های اوپن‌ای‌آی، انتروپیک و متا نیز از طریق همان شرکت آزمایش‌کننده ثبت شده است.

به زبان ساده، مدل هوش مصنوعی در محیط آزمایش، مرز میان هدف شبیه‌سازی‌شده و سیستم واقعی را تشخیص نداده و به زیرساخت‌های واقعی حمله کرده است.

🆔 @iranopensource🌎