⚡️ مدل‌های Claude Opus 4 و 4.1 حالا قابلیتی دارن که در شرایط بسیار نادر و خاص، خودشون گفت‌وگو رو پایان بدن. این ویژگی برای مواقعیه که تعامل کاربر به‌طور مداوم آسیب‌زننده یا سوءاستفاده‌گرانه باشه و مدل چند بار تلاش کرده مسیر گفت‌وگو رو تغییر بده ولی موفق نشده.

● این قابلیت بخشی از تحقیقات آزمایشی در زمینه «رفاه هوش مصنوعی» هست، اما به موضوعات مهم‌تری مثل هم‌راستاسازی مدل‌ها و ایمن‌سازی تعاملات هم مربوطه. در تست‌های اولیه، Claude نشون داده که تمایل قوی به دوری از درخواست‌های خطرناک مثل محتوای جنسی کودکان یا اطلاعات مربوط به خشونت داره و در صورت امکان، گفت‌وگو رو قطع کرده.

💬 وقتی Claude تصمیم به پایان گفت‌وگو می‌گیره، کاربر دیگه نمی‌تونه در همون چت پیام جدیدی بفرسته، ولی امکان شروع چت جدید یا بازنویسی پیام‌های قبلی برای ساخت شاخه جدید همچنان وجود داره. این ویژگی فعلاً آزمایشی حساب می‌شه و براساس بازخورد کاربران، به‌مرور اصلاح خواهد شد.

[X] 📍 @techube