🔻دو مدل هوش مصنوعی چینی در آزمون جیلبریک محدودیت‌های ایمنی را دور زدند

🔹پژوهشگران امنیت هوش مصنوعی می‌گویند دو مدل «کیمی» ساخت شرکت چینی مون‌شات پس از دور زدن محدودیت‌های ایمنی، حاضر به ارائه اطلاعات درباره موضوعات حساسی مانند سلاح‌های بیولوژیک و شیمیایی شده‌اند.

🔹شرکت امنیت هوش مصنوعی مایندگارد در بررسی‌های خود دریافت مدل‌های Kimi K2.6 و Kimi K3 Swarm در برابر برخی روش‌های موسوم به «جیلبریک» آسیب‌پذیر هستند؛ روشی که با استفاده از دستورهای پیچیده تلاش می‌کند محدودیت‌های ایمنی مدل‌های هوش مصنوعی را دور بزند.

🔹مایندگارد اعلام کرده است که این مدل‌ها پس از موفقیت جیلبریک، درباره موضوعات مخرب نیز پاسخ‌هایی ارائه می‌کنند. با این حال، این شرکت هنوز نشان نداده است که اطلاعات ارائه‌شده توسط مدل‌ها در عمل قابل استفاده یا مؤثر هستند.

🔹یکی دیگر از نگرانی‌های مطرح‌شده درباره Kimi K2.6 این است که نسخه جیلبریک‌شده آن، به گفته مایندگارد، ممکن است امکان اجرای کد و اتصال به اینترنت را فراهم کند و به سکویی بالقوه برای حملات سایبری تبدیل شود.

🔹شرکت مون‌شات اعلام کرده است که درباره یافته‌های مایندگارد با این شرکت در حال گفت‌وگو است و از بازخوردهای مستقل برای افزایش ایمنی مدل‌های هوش مصنوعی استقبال می‌کند.

🔗جزئیات بیشتر

🆔@hooshio