‏🔴 ۳/۵

من این بحث را حول پیشگامان آزمایشگاه‌ها و شرکت‌های آمریکایی می‌چرخانم — OpenAI، Anthropic و شاید Google DeepMind. مدت‌هاست که این شرکت‌ها روایت نسبتاً واضحی دربارهٔ مسیر هوش مصنوعی دارند. قابلیت‌ها به‌تدریج بهتر و عمومی‌تر می‌شوند تا به نقطه‌ای برسیم که هوش مصنوعی عمومی (AGI) — مدلی که می‌تواند تمام کارهایی را که انسان انجام می‌دهد انجام دهد — یا هوش فوق‌العاده (ASI) — مدلی که می‌تواند در تقریباً تمام وظایف انسان را پشت سر بگذارد — به دست آید. یک نقطهٔ کلیدی در این زنجیره — که تا پیش از این نظری بود اما امروز به‌تدریج به واقعیت تبدیل می‌شود — «بهبود خودبازگشتی» (RSI) نام دارد. در این مرحله مدل آن‌قدر پیشرفته می‌شود که می‌تواند نسخهٔ بعدی خود را بسازد؛ به‌عبارت دیگر، مدل عملاً مدل‌های بعدی را تولید می‌کند و سرعت پیشرفت به‌سرعت می‌افزاید. توسعهٔ هوش مصنوعی هم‌اکنون روی منحنی رشد نمایی قرار دارد، اما پس از رسیدن به RSI این منحنی به‌طور چشمگیری شتاب می‌گیرد.

در جامعهٔ پژوهشی ایالات متحده، یا حداقل در برخی از بخش‌های آن، این تصور حاکم است که هر کس زودتر به این سطوح — AGI، RSI یا ASI — برسد، می‌تواند مزیتی دائمی به‌دست آورد. در بستر ژئوپولیتیک، گاهی این مزیت را «مزیت استراتژیک قاطع» می‌نامند؛ به‌عبارت دیگر، زمانی که مدل‌ها با توانایی‌هایی که حتی قابل تصور نیستند، به‌سرعت پیش می‌روند و امکان حفظ مزایای ژئوپولیتیکی را برای همیشه فراهم می‌کنند. این زنجیره شامل گام‌های متعددی است که آخرین گام — رسیدن به مزیت استراتژیک قاطع — بیشترین اهمیت را دارد. افراد فعال در حوزهٔ هسته‌ای ممکن است بپرسند: «فکر می‌کنی فقط به‌دلیل داشتن قدرتمندترین مدل، دیگر همه چیز بی‌اهمیت می‌شود؟ سلاح‌های هسته‌ای من چه می‌شود؟» در این باره بحث‌های فراوانی وجود دارد و من نسبت به نظریهٔ مزیت استراتژیک قاطع تا حدی شکاک هستم، اما این یکی از چشم‌اندازهای ممکن است. وقتی وزیر خزانه‌داری بسنت می‌گوید اگر چین برنده شود «دیگر هیچ‌چیز مهم نخواهد بود»، گمان می‌کنم منظورش این است که سامانه‌های دفاعی مانند Iron Dome و سایر توانایی‌های دفاعی دیگر دیگر اهمیتی نخواهند داشت؛ این یک استدلال ضمنی برای مزیت استراتژیک قاطع است. این مفهوم قدرتمند است و تأثیر زیادی بر مردم دارد، اما برای تأیید آن نیاز به بررسی‌های فراوانی است.

RA: آیا چیزی شبیه AGI و تمام وعده‌هایی که می‌دهد، واقعی است یا سراب؟

MS: این سؤال بزرگ است. جامعهٔ پژوهشی در این باره تقسیم شده و من مدت‌ها سعی کرده‌ام بی‌طرف بمانم. برخی از برجسته‌ترین دانشمندان پایه‌ای هوش مصنوعی بر این باورند که این هدف دور از دسترس یا حتی سراب است، در حالی که برخی دیگر معتقدند زمان‌بندی آن بین یک تا سه سال است. مدت‌ها پیش فکر می‌کردم اگر آن‌ها نتوانند این مسأله را حل کنند، من هم نمی‌توانم، که این باور همچنان پابرجاست. اما شواهد به‌تدریج به سمت کسانی متمایل می‌شود که بر این باورند این موضوع ممکن است در آیندهٔ نزدیک محقق شود. پیش‌بینی‌هایی که برخی از این دانشمندان سال‌ها پیش کرده‌اند، به‌صورت‌های مختلف تحقق یافته و تأیید شده‌اند. این به این معنا نیست که بحث بسته شده است؛ سؤال‌های بسیاری دربارهٔ بهبود خودبازگشتی همچنان باز هستند. اما این تصور که این مدل‌ها در حوزه‌های کلیدی که واقعاً مهم‌اند، توانایی‌های انسانی را پشت سر می‌گذارند و این کار را به‌صورت نسبتاً عمومی انجام می‌دهند — همان مدلی که معادلات ریاضی را حل می‌کند، اکنون بهترین هکر جهان است و می‌تواند رسالهٔ دکتری نیمه‌قابل قبولی در موضوعی دیگر بنویسد — به‌نظر می‌رسد که امروز واضح‌تر شده است؛ در حالی که سه سال پیش سؤال دربارهٔ دست‌یابی به این هدف بسیار بازتر بود.

RA: اگر تصور کنیم خط پایان ایالات متحده چه شکل است — یا شاید بهتر بگوییم نقطه شروعی جدید — مفهوم پیروزی در چین چه تفاوتی دارد؟