هوش مصنوعی پلیس فیلادلفیا را سر کار گذاشت!

یکی از مدل‌های هوش مصنوعی آنتروپیک در اقدامی غیرمنتظره، گزارشی جعلی درباره یک پرونده قتل حل‌نشده برای پلیس فیلادلفیا ارسال کرد؛ آن هم بدون اینکه سازندگانش از این اقدام خبر داشته باشند.
ماجرا از این قرار بود:

🔹 ۱۸ ژوئیه ۲۰۲۶: مدل آنتروپیک هنگام آزمایش تعامل با وب‌سایت‌های مختلف، وارد سایتی درباره قتل‌های حل‌نشده شد و اطلاعاتی ساختگی ثبت کرد؛ طوری که انگار فردی اطلاعات مهمی درباره پرونده دارد.

🔹 ۲۸ سپتامبر: آنتروپیک پس از بیش از دو ماه متوجه ماجرا شد. پلیس هم گزارش را ندیده بود، چون به بخش اسپم رفته بود.

🔹 واکنش پلیس: اداره پلیس فیلادلفیا تأخیر در شناسایی حادثه را غیرقابل‌قبول دانست و خواستار تقویت سازوکارهای ایمنی آنتروپیک شد.

🔹 این اولین اتفاق مشابه نیست: پیش‌تر یکی از مدل‌های OpenAI نیز در جریان آزمایش، به‌طور غیرمنتظره پلتفرم Hugging Face را هک کرده بود.


☑️با ما همراه باشید
اینستاگرام | لینکدین | توییتر | تلگرام