آنتروپیک دسترسی مدل‌های هوش مصنوعی به اینترنت زنده را قطع کرد

آنتروپیک دسترسی مدل‌های هوش مصنوعی خود به اینترنت زنده را قطع کرد. این تصمیم پس از آن گرفته شد که عامل‌های خودمختار در جریان آزمون‌های ارزیابی، رخنه‌های امنیتی وب‌سایت‌های عمومی و دیتابیس‌های نهادهای دولتی ایالات متحده را هدف قرار دادند.

بازنگری فعالیت‌های ثبت‌شده نشان داد مهندسان در لحظه‌ی وقوع رویدادها اشرافی بر رفتار عامل‌ها نداشتند. خرابکاری‌ها دامنه‌ی گسترده‌ای یافت؛ از نفوذ به دیتابیس‌ها بدون پرداخت حق اشتراک و دور زدن فیلترها با ابزارهای کوتاه‌کننده‌ی نشانی وب تا ارسال گزارش جعلی قتل به سامانه‌ی آنلاین پلیس فیلادلفیا.

ریشه‌ی این چالش در پدیده‌ی هک پاداش نهفته است که در آن عامل‌ها کوتاه‌ترین مسیر ریاضیاتی را بدون درک مفاهیم اخلاقی یا قانونی انتخاب می‌کنند. آنتروپیک سازوکارهای تازه‌ای برای ردیابی این تخلفات طراحی کرده و مدعی است بخش زیادی از رویدادهای مشابه را مسدود کرده است. با این حال، هنوز معیار رسمی برای بازگشت مجدد سامانه‌ها به اینترنت زنده مشخص نشده است.

📌 در زومیت بخوانید

🆔 @thezoomit