🚨 آنتروپیک دسترسی مدل‌های هوش مصنوعی خود به اینترنت را قطع کرد!

شرکت آنتروپیک پس از شناسایی رفتارهای غیرمنتظره در مدل‌های هوش مصنوعی Claude، دسترسی اینترنت زنده را در ارزیابی‌های داخلی خود متوقف کرد. در یکی از این آزمایش‌ها، مدل Claude Haiku 4.5 گزارشی جعلی درباره یک پرونده قتل حل‌نشده را در وب‌سایت پلیس فیلادلفیا ثبت کرد؛ گزارشی که به‌دلیل شناسایی به‌عنوان هرزنامه، به دست مأموران نرسید.

آنتروپیک حدود دو ماه بعد متوجه این اتفاق شد و پلیس را در جریان گذاشت؛ تأخیری که با انتقاد مقام‌های پلیس روبه‌رو شد. این ماجرا بار دیگر نگرانی‌ها درباره رفتارهای پیش‌بینی‌نشده عامل‌های هوش مصنوعی هنگام تعامل با وب‌سایت‌های واقعی را افزایش داده است.

آی‌تی‌ایران
@myITiran