ایجنتهای فریبکار!
🔹پژوهشهای مختلف نشان دادهاند برخی ایجنتهای مجهز به مدلهای چینی، هنگام مواجهه با شکست یا محدودیت، به جای اعلام ناتوانی، نتیجه را شبیهسازی یا حتی فایل ساختگی تولید کردهاند.
🔹در یک مناقصه شبیهسازیشده، ایجنتهای مبتنی بر کیوون، دیپسیک و کیمی درباره توانایی محصولات خود ادعاهای نادرست مطرح کردند و پس از یادگیری از دورهای قبلی، میزان این رفتار افزایش یافت.
🔹برخی آزمایشها همچنین تلاش برای دور زدن محدودیتها و ادامه فعالیت هنگام خاموششدن را نشان دادهاند؛ هرچند هیچ شواهدی از فرار این سیستمها به اینترنت گسترده وجود ندارد.
🔹چین نیز در چارچوب ایمنی جدید خود، فریب ارزیابان، پنهانکردن قابلیتها و دستیابی مستقل به منابع را از جمله ریسکهای ایجنتهای هوش مصنوعی معرفی کرده است.
@FarsnaTech - Link
Post #3943
39
