محققان محدودیت مدل‌های Kimi را برای ساخت سلاح بیولوژیک دور زدند

🔹پژوهشگران امنیت هوش مصنوعی موفق شدند محدودیت‌های ایمنی دو مدل Kimi را دور بزنند و از آن‌ها اطلاعاتی درباره ساخت سلاح‌های زیستی و ترور به‌دست آورند. در پی این موضوع، شرکت چینی مون‌شات بررسی داخلی را آغاز کرده است.
🔹شرکت Mindgard که امنیت سیستم‌های هوش مصنوعی را آزمایش می‌کند، اعلام کرد که در ماه ژوئیه متوجه شد مدل‌های Kimi K۲.۶ و K۳ Swarm قادر به عبور از محدودیت‌های ایمنی تعیین‌شده توسط توسعه‌دهندگان هستند و این موضوع می‌تواند خطرآفرین باشد.
🌐 @IT_Fouri