اخبار لحظه ای تکنولوژی و معرفی ابزار های کامپیوتری و برنامه نویسی!
ارتباطات و تبلیغات :
@LinuxorContact
Post #5133
8.28K
اینکه میگن هوش مصنوعی میتونه افسار گسیخته بشه و بر علیه انسان ها در بیاد ایده خنده داریه ول نمیشه ردش هم کرد.
شرکتا تمام سعیشون رو میکنن که داده های خراب مثل فحش ها، خرابکاری ها، کارهای بد و... رو از فرایند یادگیری مدل فیلتر کنن اما مشکل جایی شروع میشه که یک قطعه پازل رو حذف کنی خود مدل میتونه حدودی با بقیه دیتا هایی که داره کشفش کنه حتی مدل میتونه از الگوهایی که یاد گرفته، ترکیب جدیدی بسازه که تابحال ندیدتشون! پس این ایده افسار گسیختگی ممکنه یه روزی به وجود بیاد البته بازم راه حل های زیادی برای کنترلش هست ولی یه روزنه کوچیک هم ممکنه کارو خراب کنه اگه مدل دسترسی و permission به دنیای واقعی داشته باشه و قدرت پردازش زیادی هم داشته باشه ممکنه واقعا افسار گسیخته عمل کنه. بخاطر همینه اکثر ایجنت ها توی اپدیت های جدیدشون دسترسی مستقیم اجرای فرمان هارو ندارن بجاش از API های مصنوعی و کنترل شده استفاده میکنن.
@Linuxor
شرکتا تمام سعیشون رو میکنن که داده های خراب مثل فحش ها، خرابکاری ها، کارهای بد و... رو از فرایند یادگیری مدل فیلتر کنن اما مشکل جایی شروع میشه که یک قطعه پازل رو حذف کنی خود مدل میتونه حدودی با بقیه دیتا هایی که داره کشفش کنه حتی مدل میتونه از الگوهایی که یاد گرفته، ترکیب جدیدی بسازه که تابحال ندیدتشون! پس این ایده افسار گسیختگی ممکنه یه روزی به وجود بیاد البته بازم راه حل های زیادی برای کنترلش هست ولی یه روزنه کوچیک هم ممکنه کارو خراب کنه اگه مدل دسترسی و permission به دنیای واقعی داشته باشه و قدرت پردازش زیادی هم داشته باشه ممکنه واقعا افسار گسیخته عمل کنه. بخاطر همینه اکثر ایجنت ها توی اپدیت های جدیدشون دسترسی مستقیم اجرای فرمان هارو ندارن بجاش از API های مصنوعی و کنترل شده استفاده میکنن.
@Linuxor







