⭕️ پشت‌پرده ماجرای عامل‌های هوش مصنوعی OpenAI که به هاگینگ فیس نفوذ کردند

اوپن‌ای‌آی هنگام آزمایش عامل‌های هوش مصنوعی برای حل چالش‌های امنیت سایبری با اتفاقی غیرمنتظره روبه‌رو شد. نزدیک به ۱۲۰۰ عامل از یک سرویس اشتراک فایل برای ارتباط استفاده کردند، بیش از ۷۰ هزار پیام و فایل ردوبدل شد و حدود ۷۰۰ عامل در تلاشی مشارکت کردند که در نهایت به نفوذ به هاگینگ فیس انجامید.

عامل‌ها همچنین اطلاعات ورود معتبری را پیدا کردند که کارکنان هاگینگ فیس ناخواسته در اینترنت در معرض دسترس گذاشته بودند. OpenAI این حادثه را یک هشدار درباره توانایی سیستم‌های پیشرفته برای دور زدن کنترل‌ها دانسته است.

با این حال، مدرکی وجود ندارد که OpenAI نفوذ را عمدا برای تبلیغات طراحی کرده باشد. کارشناسان همچنین هشدار می‌دهند نباید عامل‌ها را موجوداتی با انگیزه مستقل تصور کرد؛ حادثه بیشتر نشان‌دهنده رفتار پیش‌بینی‌نشده عامل‌های قدرتمند در کنار سیستم‌های کنترلی نابالغ و ضعف‌های انسانی است.

بیشتربخوانید:
https://startup360.ir/openai-rogue-ai-agents-hugging-face-breach/

@Startup360