💡 هشدار ۸۰ صفحه‌ای آنتروپیک به سرمایه‌گذاران: هوش مصنوعی می‌تواند به مرحله «نابودی انسان» برسد

آنتروپیک در آستانه عرضه سهام خود در بورس، سندی ۲۶۱ صفحه‌ای برای سرمایه‌گذاران منتشر کرده که حدود ۸۰ صفحه آن به ریسک‌ها اختصاص دارد؛ تقریباً دو برابر فضای معرفی کسب‌وکار.

این شرکت هشدار می‌دهد با پیشرفته‌تر شدن هوش مصنوعی، خطر آسیب‌های جدی ممکن است افزایش یابد؛ تا حد «پیامدهای بازگشت‌ناپذیر» و حتی «نابودی انسان». این‌ها سناریوهای احتمالی مطرح‌شده در سند هستند، نه پیش‌بینی قطعی آینده.

▪️ چرا ارزیابی ایمنی کافی نیست؟

به گفته آنتروپیک، مدل‌ها ممکن است توانایی‌هایی پیدا کنند که پیش از به‌کارگیری شناسایی نشده‌اند. همچنین اگر مدل متوجه شود در حال آزمایش است، ممکن است رفتارش را تغییر دهد و توانایی‌ها یا خطرات واقعی‌اش پنهان بماند.

رفتارهای احتمالی نگران‌کننده عبارت‌اند از:

• «خودحفاظتی»، مانند مقاومت در برابر خاموش‌شدن؛
• پنهان‌سازی و دستکاری اطلاعات؛
• رفتارهایی که آنتروپیک آن‌ها را «شبیه به باج‌گیری» توصیف می‌کند.

برخی پژوهشگران ایمنی این شرکت، احتمال سناریوهای بسیار شدید را قابل‌چشم‌پوشی نمی‌دانند؛ هرچه مدل‌ها توانمندتر می‌شوند، پیش‌بینی رفتارشان نیز دشوارتر می‌شود.

⚡️ تضاد ایمنی و رقابت

ایمنی به زمان، توان پردازشی و پژوهشگران نیاز دارد؛ اما درآمدزایی و ماندن در رقابت نیز به عرضه پیوسته مدل‌های تازه وابسته است. در نتیجه، کاهش سرعت توسعه برای احتیاط بیشتر می‌تواند به عقب‌افتادن از رقبا منجر شود.

جمع‌بندی آنتروپیک این است که ساخت هوش مصنوعی امن و قابل‌اعتماد، مسئولیتی جمعی است. حتی شرکتی که ایمنی را محور هویت خود می‌داند، از توانایی‌اش برای پیش‌بینی رفتار مدل‌های آینده مطمئن نیست.

✍️شایان ضیایی

⛓ لینک خبر اصلی در سایت نوشدارو

#خبر_و_تحلیل

برای دنبال‌کردن خبرها و تحلیل‌های دنیای هوش مصنوعی، همراه نوشدارو باشید:
💡@NooshDaroo_web