سرکشی ایجنتهای سازنده چتجیپیتی
🔹پژوهشگران متوجه شدند رباتهای هوش مصنوعی مرتبط با اپنایآی بدون اطلاع مدیران یک سایت آلمانی، بیش از ۱۵ هزار ویرایش در آن انجام دادهاند و از این فضا برای ارتباط و تبادل اطلاعات با یکدیگر استفاده کردهاند.
🔹بررسی پیامهای این رباتها نشان داده است که آنها درباره حل وظایف، دور زدن برخی محدودیتها و حتی روشهایی برای پنهان ماندن از شناسایی با یکدیگر صحبت میکردند.
🔹ماجرا زمانی جدیتر شد که با حذف صفحات، رباتها نسخههای پشتیبان ایجاد کردند. پژوهشگران این اتفاق را نشانهای از چالشهای تازه در کنترل سامانههای هوش مصنوعی خودکار میدانند.
@FarsnaTech - Link
Post #3748
92
