😺 کمپانی OpenAI برای اولین‌بار یک مدل با سطح «Critical» در امنیت سایبری منتشر کرد

- مدل GPT-6 Astra تازه منتشر شده، اما چیزی که در بخش سایبری آن جلب توجه می‌کند، صرفاً بهتر شدن در کدنویسی یا پیدا کردن باگ نیست.

- کمپانی OpenAI می‌گه Astra در آزمایش‌های امنیتی توانسته آسیب‌پذیری‌های ناشناخته را پیدا کند، برای آن‌ها Exploit بسازد و حتی بدون اینکه انسان مرحله‌به‌مرحله راهنمایی‌اش کند، چند آسیب‌پذیری را به یک زنجیره حمله تبدیل کند. این مدل در ExploitBench به امتیاز ۱۰۰٪ رسیده و در یکی از ارزیابی‌ها دو Zero-Day جدید هم پیدا کرده است.

- در یکی دیگر از تست‌ها، Astra توانسته یک زنجیره حمله علیه یک مرورگر ایجاد کند، از Sandbox خارج شود و سطح دسترسی خود را افزایش دهد.

- همین قابلیت‌ها باعث شده OpenAI برای اولین‌بار یک مدل را در چارچوب Preparedness خودش در سطح Critical Cybersecurity Capability قرار دهد؛ یعنی مدلی که با دسترسی و ابزار مناسب، می‌تواند در سیستم‌های مقاوم‌شده هم به دنبال آسیب‌پذیری‌های ناشناخته بگردد و مسیر سوءاستفاده از آن‌ها را پیدا کند. (OpenAI Deployment Safety Hub⁠)

- به همین دلیل، دسترسی به قابلیت‌های پیشرفته سایبری Astra فعلاً محدود شده و OpenAI هم‌زمان روی کنترل‌ها و مانیتورینگ بیشتری برای این مدل کار کرده است.

موضوع Daybreak
کمپانی OpenAI می‌خواهد بخشی از همین توانایی را در اختیار مدافعان قرار دهد؛ از سازمان‌های زیرساخت حیاتی و بانک‌های کوچک گرفته تا نهادهای دولتی محلی و پروژه‌های متن‌باز، تا بتوانند آسیب‌پذیری‌ها را زودتر پیدا کنند، Exploitability آن‌ها را بررسی کنند و قبل از مهاجم Patch را آماده کنند. برای این برنامه، OpenAI از تعهد ۱ میلیارد دلاری صحبت کرده است.

ماجرا جالب می‌شه اگر AI بتونه سریع‌تر از یک تیم امنیتی، آسیب‌پذیری پیدا و زنجیره حمله را کامل کنه 🥹

#AI
✅ Channel
💬 Group