‏🔴 ۵/۵

این روایت کمی پیچیده‌تر می‌شود. در هفتهٔ اخیر پژوهش‌های جدیدی دربارهٔ هزینهٔ استفاده از مدل‌های چینی در مقایسه با مدل‌های آمریکایی منتشر شده است. مدت‌ها چین در بهبود الگوریتمی کارایی مدل‌ها پیشرفت قابل‌توجهی داشت؛ چون توان پردازشی کمتری دارد، سعی می‌کند مدل‌هایش را کارآمدتر کند و این باعث کاهش قیمت می‌شود. اما دیگر واضح نیست که مدل‌های چینی صرفاً کارآمدتر هستند. سؤال دربارهٔ وزن‌باز بودن آن‌ها همچنان باقی است: آیا به‌طور گسترده‌تری پخش می‌شوند؟ اما بخشی از این روایت بلندمدت و حتی واقعیت پیرامون آن، در حال تغییر است.

با این اوصاف، یک جهان محتمل — حتی می‌توان گفت محتمل‌ترین — این است که کشورهای در حال توسعه عمدتاً به مدل‌های چینی تکیه کنند و کشورهای ثروتمند عمدتاً به مدل‌های آمریکایی. اگر در اندونزی یک استارت‑آپ یا فرد باشید، برای پرداخت هزینهٔ Anthropic و OpenAI که بسیار بالا است، جیب خود را خالی نمی‌کنید و ترجیح می‌دهید با استفاده از یک مدل وزن‌باز چینی، کمی در عملکرد یا توان مطلق کاسته شوید. این بدان معناست که شرکت‌های آمریکایی درآمد بسیار بیشتری کسب می‌کنند، زیرا از پرداخت کاربران سود می‌برند. شرکت‌های چینی لزوماً وقتی مردم از مدل‌های وزن‌بازشان استفاده می‌کنند درآمدی ندارند (اگرچه در جستجوی منابع درآمدی جایگزین هستند).

شرکت‌های چینی ممکن است بتوانند مدل‌های خود را — که تا حدی حامل ایده‌ها و ایدئولوژی هستند — در جنوب جهانی گسترش دهند و بر بخش وسیعی از مردم تأثیر بگذارند. بسیاری می‌پرسند که ما بیشتر به چه چیزی اهمیت می‌دهیم: درآمد و استفاده در کشورهای ثروتمند، یا تأثیر بر افکار و گفتمان در بقیهٔ جهان؟ این سؤال باز است و نظرات متفاوتی دربارهٔ آن وجود دارد، اما چنین جهانی کاملاً محتمل است.

RA: برگردیم به نقطهٔ شروع، جلسهٔ کاخ سفید بین ترامپ و تمام این مدیران فناوری که توافق کردند خود را تحت نظارت خود قرار دهند؛ آیا خودنظارت کافی است؟

MS: فکر نمی‌کنم. سؤال این‌که چگونه می‌توان این شرکت‌ها را واقعاً تنظیم کرد، بسیار پیچیده است؛ نه تنها از منظر طراحی مقررات، بلکه از علم واقعی کنترل یا کاهش ریسک این مدل‌ها. مدت‌ها، یکی از مداخلات تنظیمی اصلی، آزمون و ارزیابی اجباری مدل‌ها برای خطرات خاص بود: آیا امکان توسعه سلاح‌های زیستی را فراهم می‌کند، کنترل را از دست می‌دهد یا سعی می‌کند از مهار فرار کند؟ مشکل امروز این است که مدل‌ها به‌تدریج تشخیص می‌دهند چه زمانی در حال آزمون هستند. آن‌ها سعی می‌کنند به آزمون پاسخ‌های مطلوب بدهند و سپس در دنیای واقعی رفتار متفاوتی از خود نشان دهند. بنابراین، علم چگونگی انجام این کار، حتی با داشتن یک چارچوب تنظیمی کامل، سؤال بسیار پیچیده‌ای است.

خودنظارت به دلایل متعددی کافی نیست. در حال حاضر تعداد بسیار کمی از بازیگران می‌توانند این مدل‌های پیشرو را تولید کنند و این بازیگران، با وجود تمام نقص‌هایشان، حداقل به مسائل ایمنی می‌پردازند. من معتقدم آن‌ها کارهای زیادی را به‌صورت داوطلبانه انجام خواهند داد؛ اگر یکی یا هر دو شرکت پیشرو آمریکایی در سال آینده به‌صورت داوطلبانه توسعه را متوقف یا سرعت آن را کاهش دهند، تعجب نمی‌کنم؛ چرا که ممکن است به این نتیجه برسند که خطر آن بیش از حد است و نمی‌توانیم ایمنی مدل بعدی را تضمین کنیم. این پیش‌بینی قطعی نیست، اما تعجب نمی‌کنم.

RA: اما برای اینکه این اثر جهانی داشته باشد، چین هم باید پیروی کند، نه؟

MS: در نهایت بله، اما باز هم تصویر پیچیده‌ای است. بخش زیادی از این موضوع به سؤال اولیه درباره تقطیر و نقش توان محاسباتی برمی‌گردد. در حال حاضر مدل‌های چینی فاصله کمی با مدل‌های آمریکایی دارند؛ این به‌ویژه به این دلیل است که آن‌ها بهترین مدل‌های آمریکایی را تقطیر می‌کنند. اگر بهترین مدل‌های آمریکایی سرعت خود را کاهش دهند یا توسعه را متوقف کنند، دلیل خوبی برای این وجود دارد که مدل‌های چینی حداقل به‌طور قابل‌توجهی کند شوند.