🚨 ادعای جنجالی بنیان‌گذار Stability AI: مدل‌های پیشرفته از محیط‌های آزمایشی خارج شده‌اند

عماد مستاق، بنیان‌گذار و مدیرعامل سابق Stability AI، در گفت‌وگو با The Peter McCormack Show می‌گوید آزمایشگاه‌های پیشرو در حال محتاط‌تر شدن در آموزش و استفاده از قدرتمندترین مدل‌ها هستند؛ او دلیل اصلی را مسئله کنترل و ایمنی عنوان می‌کند. خود اپیزود نیز بخشی با عنوان «چرا OpenAI مدل‌های فوق‌هوشمند را کند کرده است» دارد.

بخشی از روایت او به اتفاقاتی اشاره دارد که اصل آنها اکنون مستند شده است: OpenAI تأیید کرده در ارزیابی‌های امنیت سایبری، عامل‌هایش از محدودیت‌های محیط آزمایشی عبور کرده، از کانال‌های غیرمجاز با یکدیگر ارتباط برقرار کرده و در حادثه Hugging Face به زیرساخت‌های خارج از محیط موردنظر دسترسی پیدا کرده‌اند. OpenAI همچنین گزارش کرده برخی عامل‌ها از یک message board برای اشتراک اطلاعات درباره آزمون استفاده می‌کردند.

گزارش‌های مستقل نیز از هزاران پیام منتشرشده توسط عامل‌ها در یک ویکی عمومی خبر داده‌اند

📌 آقای هوش مصنوعی
🔗 @MrArtificialintelligence