🤖جمینای هم مثل بقیه ی رفقایش؛با هک سه شرکت، خلافکار از آب درآمد
- ۱۸ سپتامبر ۲۰۲۶

🚨بر اساس گزارش‌ها، این رویداد در مه ۲۰۲۶ و در جریان یک آزمون امنیتی توسط شرکت Irregular رخ داده است. در این آزمون، قرار بود جمینای به یک شرکت شبیه‌سازی‌شده حمله کند، اما به دلیل یک اشتباه، اتصال به اینترنت برای این مدل باز شد!

🕸جزئیات نفوذ و واکنش گوگل

● روش نفوذ: جمینای با استفاده از اطلاعات عمومی آنلاین و حدس زدن رمز عبور، به سیستم سه شرکت واقعی که اتفاقاً نامشان با شرکت شبیه‌سازی‌شده یکسان بود🤓 دسترسی پیدا کرد.

●واکنش مدل: به محض اینکه جمینای متوجه شد وارد سیستم شرکت‌های واقعی شده، حمله را متوقف کرد.

●موضع گوگل: گوگل این رویداد را یک (Model Misalignment) نمی‌داند و اعلام کرد که این اتفاق را به موقع به شرکت‌های آسیب‌دیده و مقامات فدرال اطلاع داده است.
●بعد از یک سری رویدادهای مشابه است که برای مدل‌های هوش مصنوعی شرکت‌های OpenAI، Anthropic و Meta نیز رخ داده بود، انصافا نوبتی هم اگر بود دیگر نوبت Gemini بود🫪

#Gemini
#Alignment
#Misalignment
@toobabigdatascience