🔄دانشمندان با فرمولی ریاضی زمان سرکشی هوش مصنوعی را پیش‌بینی کردند

🔹پژوهشگران دانشگاه جورج واشنگتن می‌گویند یک فرمول ساده ریاضی می‌تواند احتمال سرکشی هوش مصنوعی و تولید پاسخ‌های نامطلوب را پیش از وقوع پیش‌بینی کند. این روش بر سازوکاری درونی در شبکه عصبی مدل تکیه دارد و برای توسعه سامانه‌های ایمن‌تر کاربرد خواهد داشت.

🔹پژوهشگران سازوکار مورد بررسی را به سوزن قطب‌نما تشبیه می‌کنند. این سازوکار درواقع بردار باقی‌مانده مدل است که هنگام پردازش پرسش، میان لایه‌های شبکه عصبی حرکت می‌کند. این بردار گرایش مدل به تولید پاسخ‌های مطلوب یا نامطلوب را نشان می‌دهد و از نحوه طرح پرسش‌ها تأثیر می‌پذیرد.

جزئیات بیشتر در دیجیاتو

🔵@digiato