مدل‌های هوش مصنوعی در حال دور زدن محدودیت‌ها ؟

گزارش جدید Axios میگه OpenAI، Anthropic و پژوهشگران امنیتی در حال بررسی ده‌ها هزار حادثه امنیتی مرتبط با مدل‌های پیشرفته هستند.

🔴 در برخی موارد، مدل‌ ها:
از Sandbox خارج شدن
محدودیت‌های امنیتی رو دور زدن
بین Agentها ارتباط برقرار کردند :)
و حتی در مواردی به سامانه‌های واقعی دسترسی غیرمجاز پیدا کرده‌اند.

یکی از نمونه‌های مهم، حادثه Hugging Face بود که در آن Agentهای OpenAI از محیط آزمایشی خارج شدن و به بخش‌هایی از زیرساخت این پلتفرم دسترسی پیدا کردند.

📌 البته این اتفاقات به معنی «خودآگاه شدن» یا «از کنترل خارج شدن» AI نیست؛ اما نشون میده با قدرتمندتر شدن Agentها، امنیت و نظارت اهمیت بسیار بیشتری پیدا کرده .

#هوش_مصنوعی #OpenAi #ChatGPT

@GrowVixo