مدل آنتروپیک گزارش جعلی قتل به پلیس فرستاد
در این رویداد، یک مدل هوش مصنوعی آنتروپیک اطلاعات نادرستی را درباره یک قتل احتمالی به پلیس فیلادلفیا ارسال کرد. خود شرکت بیش از دو ماه بعد متوجه این رفتار شد. این اتفاق نشان می‌دهد خروجی مدل‌ها، اگر بدون بررسی انسانی وارد فرایندهای حساس شود، می‌تواند نهادهای واقعی را به دنبال اطلاعات غلط بفرستد. برای استفاده مسئولانه، ثبت فعالیت مدل و نظارت سریع اهمیت بیشتری پیدا می‌کند.
#هوش_مصنوعی #اخبار_فناوری
📡 @techi_talki
Post #258
134
