پژوهشگر آنتروپیک: هوش مصنوعی تا پایان دهه همه را میکشد
🔹جیکوب کاکسون، پژوهشگر ۲۷ سالهای که سه سال در حوزه پیشآموزش مدلها در اپنایآی و آنتروپیک فعالیت کرده بود، از آنتروپیک استعفا داد. او دلیل این تصمیم را نگرانی عمیق از رقابت شرکتهای فناوری برای ساخت «ابرهوش خودبهبودیابنده» عنوان کرد و گفت این شرکتها با جان انسانها قمار میکنند.
🔹کاکسون هشدار داده است که سامانههای فرابشری در آینده نزدیک ممکن است توانایی هک کردن هر چیزی، متحول کردن حوزههای مختلف در مدت کوتاه و حتی دسترسی به قدرت و منابع واقعی را پیدا کنند. به گفته او، سرعت پیشرفت این فناوریها نیز در حال کاهش نیست.
🔹این نگرانی فقط به کاکسون محدود نمیشود. ایوان هابینگر، مدیر علمی بخش همترازی آنتروپیک، در واکنش به سخنان او گفت این شرکت واقعاً باور دارد که هوش مصنوعی میتواند در نهایت تمام انسانها را از بین ببرد.
🔹هابینگر احتمال چنین اتفاقی را در دهه آینده بیش از ۱۰ درصد برآورد کرد و در عین حال گفت آنتروپیک تلاش خود را میکند، اما هنوز برنامهای روشن برای حل مشکل همترازی ابرهوش ندارد.
@FarsnaTech - Link
Post #3792
91
