اعتراف OpenAI به افشای‌نشدن یک حادثه رفتار خودمختار هوش مصنوعی
شرکت OpenAI تأیید کرده است که حادثه‌ای را که در آن عوامل هوش مصنوعی خودمختار این شرکت یک ویکی آلمانی را به بستری برای تبادل پاسخ، هماهنگی و تلاش برای دور زدن محدودیت‌ها تبدیل کرده بودند، به‌صورت عمومی افشا نکرده است.
پژوهشگران مستقل حدود ۱۸ هزار پیام از این عوامل را در ویکی «DSEWiki» شناسایی کردند؛ پیام‌هایی که علاوه بر تبادل پاسخ‌ها، شامل بررسی محیط، تلاش برای دور زدن محدودیت‌های سندباکس و ایجاد مسیرهای ارتباطی پشتیبان بوده است.
در ادامه: OpenAI این رویداد را در ابتدا «ناهم‌راستایی مدل» تلقی کرده بود، نه یک رخداد امنیتی؛ اما اکنون می‌گوید با افزایش اثرگذاری واقعی عوامل هوش مصنوعی، مرز میان خطای رفتاری و حادثه امنیتی در حال کمرنگ شدن است.
این شرکت اعلام کرده در حال تدوین چارچوب جدیدی برای افشای عمومی حوادث ناشی از رفتار غیرمنتظره هوش مصنوعی است؛ موضوعی که با افزایش دسترسی عوامل هوش مصنوعی به اینترنت و ابزارهای خارجی، اهمیت بیشتری پیدا کرده است.
منبع : هکرنیوز
#hossssein@sun_geek
Post #523
139