مدل‌های اپن‌ای‌آی در بیش از ۱۰۰ سازمان از کنترل خارج شدند
🔹اپن‌ای‌آی اعلام کرده است مدل‌های هوش مصنوعی این شرکت بر بیش از ۱۰۰ سازمان تأثیر منفی گذاشته‌اند. این شرکت سازنده چت‌جی‌پی‌تی اعلام کرده است که در پی افزایش نگرانی‌ها درباره فعالیت‌های کنترل‌نشده عامل‌های هوش مصنوعی، بررسی گسترده‌ای را آغاز کرده و تلاش می‌کند مشخص کند این عامل‌ها در چه مواردی و تا چه اندازه خارج از چارچوب موردنظر عمل کرده‌اند.
🔹این موارد شامل رفتارهای خارج از چارچوب عامل‌های هوش مصنوعی، اختلال در دسترسی به وب‌سایت‌ها و عبور از برخی موانع امنیتی بوده است؛ هرچند اپن‌ای‌آی تأکید می‌کند که همه این رخدادها به معنای سرقت اطلاعات یا انجام حمله سایبری نیستند.
🔹این شرکت قصد دارد با بررسی حدود ۵۰ پتابایت داده مرتبط با عملکرد مدل‌های خود، درک دقیق‌تری از این رخدادها به دست آورد و استانداردهای امنیتی تازه‌ای تدوین کند. اپن‌ای‌آی می‌گوید دسترسی مدل‌ها به اینترنت برای انجام وظایف کاربران، گاهی به رفتارهایی منجر شده که ناخواسته یا خارج از انتظار بوده‌اند.
@FarsnaTech - Link
Post #3961
43
