شرکت اوپن‌ای‌آی مدل آسترا را به‌دلیل نتایج هشدارآمیز امنیت سایبری محدود می‌کند
🔒 شرکت اوپن‌ای‌آی اعلام کرده است که مدل آینده خود با نام آسترا، بر اساس ارزیابی‌های داخلی، ممکن است به سطح «بحرانی» قابلیت‌های امنیت سایبری در چارچوب Preparedness Framework این شرکت رسیده باشد؛ سطحی که هیچ‌یک از مدل‌های قبلی اوپن‌ای‌آی تا کنون به آن نرسیده‌اند. مدل فعلی و در دسترس عموم این شرکت، جی‌پی‌تی-۵.۶ سول، در بالاترین سطح قبلی یعنی «بالا» طبقه‌بندی شده بود.
🛡 رسیدن به سطح «بحرانی» به این معناست که یک مدل هوش مصنوعی می‌تواند به‌صورت خودکار آسیب‌پذیری‌های روز-صفر واقعی را در سیستم‌های حساس و مقاوم‌سازی‌شده شناسایی و اکسپلویت‌های کاربردی برای آن‌ها بسازد، یا تنها با دریافت یک هدف کلی، حملات کاملاً جدید سرتاسری علیه اهداف مقاوم طراحی و اجرا کند. شرکت اوپن‌ای‌آی به همین دلیل توسعه داخلی بخش‌هایی از آسترا را که با الزامات امنیتی جدید مطابقت ندارند متوقف کرده و اقداماتی مانند محیط‌های تست ایزوله، محدودسازی دسترسی شبکه و ابزارها، رمزنگاری قوی‌تر برای وزن‌های مدل، نظارت بیشتر و اجرای ساندباکس‌شده را در دست اجرا دارد.
🌐 این شرکت همچنین اعلام کرده در حال نظارت بر اقدامات پرخطر در فرآیندهای آموزش و ارزیابی عامل‌محور مدل آسترا است و قصد دارد برای ارزیابی مستقل قابلیت‌های آن با نهادهای دولتی و سازمان‌های منتخب ایمنی هوش مصنوعی همکاری کند. تاریخ عرضه عمومی آسترا هنوز اعلام نشده و به نظر می‌رسد این نگرانی‌های امنیتی می‌تواند در انتشار همگانی آن تأخیر ایجاد کند.
🔗 مشاهده خبر اصلی در سایت منبع
چهارراه کامپیوتر | @charrahecomputer
Post #2632
6.49K
- 🤯 16
- ❤ 4