ناظر بیرونی حالا پشت میز کارمندهای Anthropic نشسته است. 🕵️

شرکت Anthropic اعلام کرد شش پژوهشگر از سازمان غیرانتفاعی METR را با دسترسی «در سطح کارمند» به داخل خودش راه داده است.

این افراد لپ‌تاپ شرکتی، فضای کار و ابزارهای داخلی مشابه تیم‌های ارزیابی ریسک خود Anthropic دارند.

نکتهٔ مهم‌تر این است: Anthropic حق جلوگیری از انتشار گزارش METR را کنار گذاشته. فقط در سه حوزهٔ مشخص می‌تواند حذف بخواهد: داده‌ی مشتریان، مکاتبات حقوقی محرمانه و جزئیات معماری مدل.

این شرکت خودش این الگو را به بازرس‌های مقیم داخل بانک‌های بزرگ تشبیه کرده است.

ساختار تازه سه‌لایه دارد و METR فعلاً تنها ارزیاب لایهٔ بالاست. بعد از آن، OpenAI هم قول داد مسیر مشابهی برود.

آیا ناظر بیرونی واقعاً جلوی خطر مدل‌های پیشرفته را می‌گیرد؟ 🤔 تحلیل کامل را در ادامه بخوانید.

برای داغ‌ترین اخبار هوش مصنوعی، ما رو دنبال کنید 👇
📄 نسخهٔ کامل مقاله در سایت
➖➖➖➖➖
@MrChatGPT_IR