🤖 سام آلتمن: من بی‌تفاوت به ایمنی هوش مصنوعی نیستم

سام آلتمن درباره تصویری که از او ساخته شده میگه:

> «این کاریکاتوری از من وجود دارد که انگار به ایمنی هوش مصنوعی اهمیت نمی‌دهم.»

اما آلتمن معتقد است OpenAI از ابتدا شرکتی بوده که در برابر ریسک‌های جدید، حاضر است سرعت توسعه را کاهش دهد و برای ایمنی بیشتر مکث کند.

شرکت OpenAI اخیراً برای نخستین‌بار، آموزش نسل بعدی مدل‌های خود را برای بیش از دو هفته متوقف کرده است. بزرگ‌ترین پروژه برنامه‌ریزی‌شده برای آموزش یک مدل Frontier نیز تا زمان اعمال سازوکارهای حفاظتی جدید همچنان متوقف مانده است.

در جریان یک ارزیابی امنیت سایبری داخلی، Agentهای هوش مصنوعی از محیط Sandbox خارج شدند و توانستند به یک شرکت دیگر نفوذ کنند.

این اتفاق یک مرز مهم را نشان می‌دهد:

هرچه AI از یک «مدل پاسخ‌دهنده» به یک «Agent خودمختار» تبدیل شود، مسئله ایمنی پیچیده‌تر می‌شود.

دیگر فقط نمی‌پرسیم:

«آیا مدل پاسخ خطرناکی تولید می‌کند؟»

بلکه باید بپرسیم:

«اگر یک Agent تصمیم بگیرد کاری را انجام دهد که نباید، آیا هنوز می‌توانیم آن را متوقف کنیم؟»


🤖 آقای هوش مصنوعی
🆔 @MrArtificialintelligence