اگه یک AI از کنترل خارج بشه، چطور متوقفش می‌کنیم؟

یک مطالعه جدید از Guidelight AI Standards بررسی کرده که شرکت‌های بزرگ AI برای مهار یک مدل سرکش یا خارج‌شده از کنترل، چه برنامه‌ای دارند.

نتیجه جالبه:

و خب OpenAI بالاترین امتیاز رو گرفت:
۳ از ۵

و Anthropic و Meta پایین‌ترین امتیاز را در میزان شفافیت عمومی داشتند.

همچنین OpenAI گفته در داخل شرکت میتونه در شرایط خطرناک، دسترسی‌های مدل رو محدود کنه، اجرای اونو متوقف کنه، Deployment رو محدود کنه یا مدل رو کاملاً Offline کند.

اما نکته مهم اینجاست: این ارزیابی فقط بر اساس اطلاعات عمومی انجام شده؛ بنابراین امتیاز پایین الزاماً به معنی نبودن سازوکارهای داخلی نیست.

با گسترش AI Agent ها که به کد، سرورها، دیتابیس و ابزارهای شرکت‌ها دسترسی پیدا می‌کنند، یک سؤال جدی‌تر میشه :

اگه Agent واقعاً رفتار خطرناکی از خودش نشون بده، آیا یک Kill Switch مطمئن برای خاموش‌کردنش داریم؟
#AI #AIAgents #هوش_مصنوعی

@GrowVixo 🔥
منبع👇🏾
https://techcrunch.com/2026/08/22/frontier-ai-labs-still-wont-say-how-theyd-contain-a-rogue-model/