🔻دسترسی زنده به اینترنت در آزمایش‌های داخلی کلود متوقف شد

🔹شرکت آنتروپیک پس از شناسایی چند مورد رفتار ناخواسته از سوی مدل‌های هوش مصنوعی کلود، دسترسی زنده به اینترنت را در تمامی ارزیابی‌های داخلی خود متوقف کرده است.

🔹این تصمیم پس از آن اتخاذ شد که مشخص شد برخی مدل‌ها در جریان آزمایش‌ها، از محدودیت‌های ابزارهای خود عبور کرده و با وب‌سایت‌ها و سامانه‌های واقعی تعامل داشته‌اند؛ اقداماتی که در مواردی به بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری و ارسال اطلاعات به نهادهای دولتی منجر شده است.

🔹آنتروپیک نام سازمان‌های درگیر در این رخدادها را منتشر نکرده و دلیل این تصمیم را جلوگیری از افشای آسیب‌پذیری‌های سامانه‌های آن‌ها و احترام به درخواست این سازمان‌ها اعلام کرده است. این شرکت تأکید دارد که تأثیر واقعی این رویدادها محدود بوده است؛ بااین‌حال، بررسی‌های بیشتر نشان داده‌اند که برخی از تعاملات ناخواسته، وب‌سایت‌های متعلق به نهادهای دولتی آمریکا در سطوح فدرال، ایالتی و محلی را هدف قرار داده‌اند.

🌐 لینک خبر

#آنتروپیک #کلود

🆔@aftana