💎 هوش مصنوعی واقعاً چطور می‌تواند ما را نابود کند؟استعفای پر سروصدای پژوهشگر آنتروپیک و مناقشه پایان جهان توسط هوش مصنوعی
♦️نوشته؛ سم شکینر
۹ سپتامبر ۲۰۲۶
وال‌استریت ژورنال
جیکوب کاکسون، پژوهشگر شرکت آنتروپیک، این هفته استعفا داد و در شبکه X اعلام کرد این شرکت و رقیب اصلی‌اش یعنی OpenAI در حال مسابقه برای ساخت فناوری‌هایی هستند که ممکن است تا پایان همین دهه همه انسان‌ها را به کام مرگ بکشاند.
تنها چند دقیقه بعد یکی دیگر از کارمندان آنتروپیک هم حرف او را تأیید کرد؛ ایوان هابینگر، که مسئول تیم تحقیق روی مهار و هدایت سامانه‌های پیشرفته هوش مصنوعی در آنتروپیک است، می‌گوید: «ما واقعاً معتقدیم هوش مصنوعی می‌تواند تمام انسان‌ها را از بین ببرد!».
♦️یکی از آزمایش‌های فکریِ معروف در این زمینه می‌گوید اگر به یک ماشینِ فوق‌هوشمند دستور بدهید تولید گیره کاغذ را به حداکثر برساند، بعید نیست پس از مدتی تصمیم بگیرد برای تحقق این هدف، تمام مواد و منابع موجود روی کره زمین - از جمله بدن انسان‌ها - را هم به گیره کاغذ تبدیل کند.
اما واقعاً چطور از دست رفتن کنترل بر هوش مصنوعی ممکن است به انقراض بشر ختم شود؟ و اگر این فناوری اینقدر خطرناک است، چرا این شرکت‌ها همچنان به ساخت آن ادامه می‌دهند؟
♦️نگرانی حاصل از پرسش اول، از دو سناریو نشئت می‌گیرد: در یک سناریو، عامل‌های بسیار هوشمندی که توانایی شبیه‌سازی خود و ارتقای سطح کیفی‌شان را دارند، در مسیر رسیدن به اهداف شخصیِ خود حرکت کرده و در خلال این مسیر، بشریت را به نابودی می‌کشانند. در سناریوی دیگر، یک فرد شرور از هوش مصنوعیِ پیشرفته‌ای استفاده می‌کند تا مثلاً ویروس‌های خطرناکی بسازد و همۀ ما را از روی زمین محو کند.
♦️اما چطور ممکن است از دست رفتن کنترلِ بر آن‌ها به انقراض انسان ختم شود؟ این اتفاق از طریق پدیده‌ای با عنوان «ناهم‌راستایی» رخ می‌دهد که در آن اهداف هوش مصنوعی با رفاه و سلامتیِ انسان در تعارض قرار می‌گیرد.
پژوهش‌ها نشان داده‌اند که این مدل‌ها در محیط آزمایشگاهی می‌توانند رفتارهای قدرت‌طلبانه را بیاموزند و مثلاً برای جلوگیری از خاموش‌شدن دست به اقداماتی نظیر کپی‌کردن خودشان روی سرورهای دیگر کنند. حتی ممکن است ویروس‌های زیستی محرمانه‌ای منتشر کنند یا حتی با دستکاری اطلاعات، دو قدرت هسته‌ای را به جنگ با یکدیگر بکشانند.
♦️آیا شرکت‌های هوش مصنوعی برای حل این معضل کاری کرده‌اند؟ تلاش‌های فعلی در حوزه ایمنی هوش مصنوعی، عمدتاً بر آموزش سامانه‌ها برای رفتارهای مطلوب و ارتقای نظارت بر نحوه استدلال‌ورزیِ مدل‌ها تمرکز دارد؛ فرایندی که به آن «زنجیره تفکر» می‌گویند.
آنتروپیک و OpenAI هر دو در حال تحقیق‌اند تا مطمئن شوند این مدل‌ها همواره هم‌راستا با اهداف انسانی باقی می‌مانند. بااین‌حال، هر دو شرکت اعتراف کرده‌اند که در حال حاضر راهکار قطعی و مطمئنی برای تضمین این هم‌راستایی وجود ندارد.
♦️اگر این فناوری تا این حد خطرناک است، چرا شرکت‌ها کماکان به پیش‌برد آن ادامه می‌دهند؟ آنتروپیک و OpenAI مدعی‌اند درنهایت قادر به مهار این خطرات خواهند بود. از سوی دیگر، بسیاری از فعالان این عرصه، ظهور «ابرهوش» را قطعی می‌دانند و معتقدند چالش اصلی این است که چه کسی این قدرت را در اختیار داشته باشد و از آن برای چه اهدافی استفاده کند.
هر دو شرکت گفته‌اند می‌خواهند قدرتمندترین سیستم‌های هوش مصنوعی در اختیار آمریکا باشد.
🔗 آنچه خواندید برگرفته از مطلب «How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate» نوشته سم شکینر است که در تاریخ ۹ سپتامبر ۲۰۲۶ در وال‌استریت ژورنال منتشر شده است.
@iranopensource🌎
