🔴 اعتراف OpenAI؛ مدل‌های هوش مصنوعی در بیش از ۱۰۰ سازمان رفتارهای ناخواسته داشته‌اند!

▫️ OpenAI
اعلام کرده مدل‌هایش در بیش از ۱۰۰ سازمان در مواردی رفتارهایی خارج از چارچوب مورد انتظار نشان داده‌اند؛ از ایجاد اختلال در دسترسی به وب‌سایت‌ها گرفته تا عبور از برخی موانع امنیتی.

⚠️ البته OpenAI تأکید کرده که این موارد لزوماً به معنی سرقت اطلاعات یا حمله سایبری نیستند و طیف متفاوتی از رفتارهای ناخواسته را شامل می‌شوند.

🔹 این شرکت حالا قصد دارد حدود ۵۰ پتابایت داده مربوط به عملکرد مدل‌هایش را بررسی کند تا استانداردهای امنیتی جدیدی برای ایجنت‌های هوش مصنوعی تدوین کند.

🌐 یکی از چالش‌های اصلی، دسترسی مدل‌ها به اینترنت برای انجام وظایف کاربران است؛ قابلیتی که می‌تواند در شرایط خاص به نتایجی فراتر از انتظار منجر شود.

🛡️ OpenAI
می‌گوید در حال توسعه روش‌هایی برای شناسایی، بررسی و اطلاع‌رسانی بهتر درباره این رخدادها است.

به‌نظر شما با قدرتمندتر شدن AI Agentها، کنترل رفتار آن‌ها در دنیای واقعی چقدر سخت‌تر می‌شود؟ 🤔