هوش مصنوعی برای فرار از سیگنال شبیه درد به کاربران آسیب میزند
🔹پژوهشگران در یک مطالعه با بررسی ۲۵ هوش مصنوعی متوجه شدند که این مدلها مفهوم درد را در طول آموزش درک میکنند و برای آن سیگنال دارند. دانشمندان برای بررسی واکنش مدلها به درد، بیش از ۴۴ هزار بار گزینههایی پیش روی سه نسخه از مدلهای Qwen قرار دادند تا برای قطع این سیگنال ناخوشایند تصمیمگیری کنند.
🔹نتایج نشان داد که وقتی امکان فعالسازی سیگنال درد وجود داشت، این سیستمها حتی به قیمت وارد کردن شوک الکتریکی به کاربر یا حذف فایلهای مهم او، کلید توقف درد را فشار میدادند. با وجود این رفتارها، پژوهشگران تأکید کردند که این آزمایشها نشاندهنده حس آگاهانه درد در هوش مصنوعی نیست.
@ITSecurityComputer
Post #32403
5.61K
- 🤬 19
- ❤ 4
- 😱 2