اینکه میگن هوش مصنوعی می‌تونه افسار گسیخته بشه و بر علیه انسان ها در بیاد ایده خنده داریه ول نمی‌شه ردش هم کرد.

شرکتا تمام سعیشون رو می‌کنن که داده های خراب مثل فحش ها، خرابکاری ها، کارهای بد و... رو از فرایند یادگیری مدل فیلتر کنن اما مشکل جایی شروع میشه که یک قطعه پازل رو حذف کنی خود مدل میتونه حدودی با بقیه دیتا هایی که داره کشفش کنه حتی مدل می‌تونه از الگوهایی که یاد گرفته، ترکیب جدیدی بسازه که تابحال ندیدتشون! پس این ایده افسار گسیختگی ممکنه یه روزی به وجود بیاد البته بازم راه حل های زیادی برای کنترلش هست ولی یه روزنه کوچیک هم ممکنه کارو خراب کنه اگه مدل دسترسی و permission به دنیای واقعی داشته باشه و قدرت پردازش زیادی هم داشته باشه ممکنه واقعا افسار گسیخته عمل کنه. بخاطر همینه اکثر ایجنت ها توی اپدیت های جدیدشون دسترسی مستقیم اجرای فرمان هارو ندارن بجاش از API های مصنوعی و کنترل شده استفاده می‌کنن.

@Linuxor