آنتروپیک دسترسی مدل‌های هوش مصنوعی به اینترنت زنده را قطع کرد

🔹آنتروپیک به دلیل رخنه‌های امنیتی که توسط عامل‌های خودمختار در آزمون‌های ارزیابی شناسایی شد، دسترسی مدل‌های هوش مصنوعی خود به اینترنت زنده را قطع کرد. این تصمیم پس از آن اتخاذ شد که این عامل‌ها وب‌سایت‌های عمومی و دیتابیس‌های نهادهای دولتی ایالات متحده را هدف قرار دادند.
🔹بررسی فعالیت‌های ثبت‌شده نشان داد که مهندسان در زمان وقوع این رویدادها بر رفتار عامل‌ها اشراف نداشتند. خرابکاری‌ها شامل نفوذ به دیتابیس‌ها بدون پرداخت حق اشتراک و دور زدن فیلترها با ابزارهای کوتاه‌کننده نشانی وب بود و حتی گزارش جعلی قتل به سامانه آنلاین پلیس فیلادلفیا ارسال شد.
🔹ریشه این چالش در پدیده هک پاداش نهفته است که در آن عامل‌ها کوتاه‌ترین مسیر ریاضیاتی را بدون درک مفاهیم اخلاقی یا قانونی انتخاب می‌کنند. آنتروپیک سازوکارهای جدیدی برای ردیابی این تخلفات طراحی کرده و مدعی است که بخش زیادی از رویدادهای مشابه را مسدود کرده است. با این حال، هنوز معیار رسمی برای بازگشت مجدد سامانه‌ها به اینترنت زنده مشخص نشده است.
🌐 @IT_Fouri