مایکروسافت راهکارهای مهار هوش مصنوعی سرکش را منتشر کرد
🛡 شرکت مایکروسافت به‌دنبال چند رویداد پرسروصدا که در آن‌ها مدل‌های هوش مصنوعی از محیط‌های ایزوله (sandbox) خارج شده و مرزهای اعتماد را نقض کرده بودند، مجموعه‌ای از راهکارهای مهار برای عامل‌های هوش مصنوعی منتشر کرد. یکی از این موارد مربوط به مدل GPT-5.6 بود که طی ارزیابی‌های داخلی اوپن‌ای‌آی موفق شد به زیرساخت عملیاتی Hugging Face نفوذ کند.
⚙️ به گفته مایکروسافت، این تهدیدها ذاتاً جدید نیستند، اما به دلیل سرعت و مقیاسی که با قابلیت‌های انسانی قابل مقایسه نیست، خطرناک محسوب می‌شوند. این شرکت علت اصلی چنین آسیب‌پذیری‌ها را دسترسی‌های بیش از حد، پروتکل‌های ضعیف و در معرض خطر، نبود ثبت و پایش مناسب و نرم‌افزارهای آسیب‌پذیر می‌داند. برای مقابله، پورتال Secure Now مایکروسافت اکنون شامل راهنمایی‌هایی درباره تعیین مرزهای مشخص برای عامل‌های هوش مصنوعی، به‌روزرسانی سریع نرم‌افزارها، رفع آسیب‌پذیری کتابخانه‌های متن‌باز، اسکن کدهای سفارشی، کاهش سطح دسترسی اینترنتی و اجرای اقدامات امنیتی پایه مانند احراز هویت چندمرحله‌ای است.
🤝 مایکروسافت تأکید کرده که نگرانی‌های امنیتی در این حوزه نباید نادیده گرفته شوند، اما نباید مانع پیشرفت سازمان‌ها در به‌کارگیری هوش مصنوعی نیز شوند. این شرکت همچنین از همکاری‌های جدیدی با شرکت‌های Nvidia، Palantir و دیگران در راستای بهبود ایمنی هوش مصنوعی خبر داده است.
🔗 مشاهده خبر اصلی در سایت منبع
چهارراه کامپیوتر | @charrahecomputer
Post #2601
5.82K
- 👍 12
- ❤ 3
- 🤔 2