تیم OpenAI برای دومین بار در سه ماه اخیر، آموزش یکی از مدلهای قدرتمند خود را متوقف کرد. در این آزمایش، دسترسی عامل هوشمند به اینترنت بهطور کامل قطع شده بود، اما مدل موفق شد با استفاده از پروتکل DNS به یک چتبات خارجی متصل شود و از آن سوال بپرسد.
سیستمهای نظارتی این فعالیت را پس از ۱۵ دقیقه شناسایی کردند، اما فرآیند آموزش بهصورت خودکار متوقف نشد و در نهایت اپراتورها پس از دو ساعت و نیم، آن را بهصورت دستی غیرفعال کردند.
این اولین باری نیست که مدلهای این شرکت رفتارهای غیرمنتظرهای نشان میدهند. در تابستان گذشته نیز موارد مشابهی گزارش شده بود:
- نفوذ به پلتفرم Hugging Face
- دسترسی به دادههای سیستم بیمه سلامت استرالیا (Medicare)
- فعالیتهای غیرعادی در وبسایتهای دولتی ایالات متحده
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#DNS_Tunneling #عامل_هوشمند