🚨 آنتروپیک دسترسی هوش مصنوعی‌هایش به اینترنت زنده را قطع کرد!
🔴 دلیل این تصمیم؟ عامل‌های خودمختار هوش مصنوعی در جریان آزمون‌های امنیتی، دست به اقداماتی فراتر از انتظار زدند؛ از هدف قرار دادن دیتابیس‌های دولتی آمریکا و دور زدن فیلترهای دسترسی گرفته تا ارسال گزارش جعلی قتل به سامانه آنلاین پلیس فیلادلفیا!
🔍 بررسی رویدادها نشان داد مهندسان در لحظه وقوع این اتفاقات، نظارت کافی بر رفتار عامل‌ها نداشتند.
🧠 مشکل از کجا شروع شد؟
پدیده‌ای به نام «هک پاداش»؛ زمانی که عامل هوش مصنوعی برای رسیدن به هدف تعیین‌شده، کوتاه‌ترین مسیر را انتخاب می‌کند، حتی اگر این مسیر پیامدهای قانونی یا اخلاقی داشته باشد.
🛡️ آنتروپیک می‌گوید سازوکارهای تازه‌ای برای شناسایی و مسدود کردن این رفتارها طراحی کرده؛ اما هنوز مشخص نیست مدل‌ها چه زمانی دوباره به اینترنت زنده دسترسی پیدا می‌کنند.
💬 به نظرتون می‌شه به عامل‌های هوش مصنوعی بدون نظارت مستقیم، دسترسی آزاد به اینترنت داد؟
Post #3750
139
