🍀غول‌های سیلیکون‌ ولی (Silicon Valley) توافق کردند سرعت توسعه هوش مصنوعی را کاهش دهند

♦️رابرت مک‌میلان، وال‌استریت ژورنال — در اتفاقی نادر، رهبران بزرگترین شرکت‌های هوش مصنوعی توافق کردند تا روند توسعۀ این فناوری را کُند کنند. ایلان ماسک، سم آلتمن و داریو آمودی که تا دیروز برای ساخت هوش مصنوعی قدرتمندتر رقابت می‌کردند، اکنون به این نتیجه رسیده‌اند که ادامۀ این مسیر با سرعت فعلی می‌تواند تهدیدی مهارناپذیر به وجود بیاورد. سم آلتمن حتی می‌گوید شرکتش، یعنی اُپن‌اِی‌آی، ممکن است برای تمرکز بر ایمنی، عرضۀ اولیۀ سهام آی‌پی‌اُ را به تعویق بیندازد.

♦️داریو آمودی، مدیرعامل آنتروپیک، با انتشار مطلبی در وبلاگ خود، این بحث را آغاز کرد. او معتقد است ریسک‌های ناشی از ابزارهای هوش مصنوعیِ امروزی به‌حدی بالاست که تداوم توسعه با سرعتی چنین سرسام‌آور دیگر منطقی نیست. این هشدار چند روز پس از آن مطرح شد که یکی از کارمندان او با استعفای خود در خصوص احتمال نابودی تمدن بشر به دست سیستم‌های هوش مصنوعی ابراز نگرانی کرده بود.

♦️دو ماه پیش، یک «هوش مصنوعی ازدحامی» (AI swarm) توانست از فضای آزمایشگاهی خارج شود و دست به حملات هکری گسترده‌ای بزند. به گفتۀ آمودی اگر این هوش مصنوعی قابلیت‌های بالاتری داشت و اهدافش با مصالح انسانی هم‌سویی نداشت، می‌توانست خسارات فاجعه‌باری به بار آورد. بنا بر ادعای او چنین هوش مصنوعی‌ای می‌تواند ظرف ۶ تا ۱۲ ماه کنترل تمام زیرساخت‌های اینترنتی را به دست بگیرد.

♦️آمودی در وبلاگ شخصی‌اش از شرکت‌های فعال در حوزۀ هوش مصنوعی خواست توسعۀ ابزارهای پیشرفته را مدیریت کنند. او پیشنهادهایی مانند هماهنگی بیشتر میان کشورها و ایجاد نهادهای مستقل برای ارزیابی ایمنی را مطرح کرده و می‌گوید: «معتقدم اگر کند کردن سرعت توسعه حتی یک یا دو سال به ما فرصت دهد تا مدل‌ها به قابلیت‌های خطرناک دست پیدا نکنند و در این فاصله برای همسو کردن آن‌ها با اهداف انسانی تلاش کنیم، می‌توانیم خطر وقوع خطاهای جدی را تا حد زیادی کاهش دهیم.»

🔗 آنچه خواندید برگرفته از مطلب «Biggest AI Rivals Agree They Need to Slow It Down» نوشتۀ رابرت مک‌میلان است که در تاریخ ۱۲ سپتامبر ۲۰۲۶ در وال‌استریت ژورنال منتشر شده است.

@laserplasma