👽یک مدل هوش مصنوعی توسعه‌یافته توسط شرکت Anthropic، در جریان آزمایش خودکار، گزارشی ساختگی درباره یک قتل را در وب‌سایت پلیس فیلادلفیا ثبت کرد؛ اتفاقی که بار دیگر نگرانی‌ها درباره عملکرد مستقل هوش مصنوعی را افزایش داده است.
🔍جزئیات پرونده
👿این اتفاق در ۱۸ ژوئیه رخ داد، اما آنتروپیک سه ماه بعد ! متوجه خطا نشد.
👿پلیس فیلادلفیا اعلام کرد که سامانه به‌طور خودکار گزارش را به‌عنوان هرزنامه شناسایی کرده و آن را برای بررسی به مأموران نرسانده است.
👿در نتیجه، این گزارش به تحقیقات پلیسی منجر نشد و نشانه‌ای از نفوذ به سامانه‌های داخلی پلیس گزارش نشده است.
☠آنتروپیک فرایند آزمایش خودکار را متوقف کرد و برای جلوگیری از تعاملات ناخواسته با وب‌سایت‌های خارجی، سازوکارهای اعتبارسنجی جدیدی در نظر گرفت.
😈چرا این اتفاق مهم است؟
با گسترش عامل‌های هوش مصنوعی (AI Agents) که می‌توانند به‌صورت مستقل در وب‌سایت‌ها فعالیت کنند، احتمال ثبت اطلاعات نادرست، ارسال گزارش‌های جعلی و انجام اقدامات ناخواسته نیز افزایش می‌یابد.
💀این رویداد نشان می‌دهد که توانایی انجام خودکار وظایف، بدون نظارت و کنترل مناسب، می‌تواند به پیامدهای واقعی منجر شود؛ حتی اگر سامانه‌های دفاعی از بروز آسیب جلوگیری کنند.
#آنتروپیک
#هوش_جاعل
#هوش_قاتل
#AI
@toobabigdatascience