‏آیا «به پایان پیشرفت هوش مصنوعی رسیده‌ایم»؟

گری مارکوس دانشمند علوم شناختی، نویسنده و منتقد قدیمی AI معتقده که: بله!

او به خاطر اینکه با شجاعت حباب فانتزی AI رو بارها سوراخ کرده، در سیلیکون‌ولی زیاد محبوب نیست، ولی حالا حتی بزرگان دنیای AI دارن حرف‌هاش رو تأیید می‌کنن!

«مقیاس‌پذیری» یا Scaling یعنی چی؟

فرض اولیه باورمندان به AI این بود که: «هر چی داده، سخت‌افزار، و توان محاسباتی بیشتری در اختیار مدل بزاریم، عملکرد و پیش‌بینی‌پذیری بهتر میشه».
‏ GPT-2 → GPT-3 → GPT-4
هر مرحله جهش‌های بزرگی داشت.
پس همه فکر کردن این روند تا AGI ادامه داره...

اما مارکوس از ابتدا معتقد بود که افزایش داده و محاسبات در بلند مدت باعث بهبود قابل توجه در AI نمیشه. GPT-4 نسبت به GPT-3 بهتر بود، اما تلاش برای ساخت GPT-5 نتایج دلخواه رو نداد.
‏ مارکوس استدلال می‌کنه که این روند درست مثل وزن بچه‌هاست:

- نوزاد ممکنه هر چند ماه وزنش دو برابر بشه.
- اما اگه ادامه پیدا کنه، تا ۱۸ سالگی باید حداقل ۱۳هزار کیلو باشه!
- همون‌طور که رشد بدن متوقف میشه، رشد مدل‌های زبانی هم داره کند میشه.
‏مارکوس از ۲۰۲۲ هشدار داده بود: «دیپ لرنینگ داره به دیوار می‌خوره».
همه بهش ‌می‌خندیدن، آلتمن، ماسک، یان لکون حتی اسمش رو آوردن. در حالی‌که حالا خودشون دارن از«بازدهی نزولی» حرف می‌زنن.

پروژه GPT-5 هم بی‌سروصدا شکست خورد و به اسم 4.5 عرضه شد.
‏ حتی با صرف هزینه‌های میلیاردی، شاهد نشانگان رکودیم:

- هرچند GPT-4 یک جهش بود، 5 اتفاق نیافتاد.
- 4.5 یه ذره بهتره.
- علی‌رغم برتری قابل توجه Grok 2 به Grok اولیه، Grok 3 با ۱۰ برابر سایز نسبت به ۲ به طرز چشمگیری بهتر نیست.
- کلاد، جمنای و ... بهبودهای کوچک، بدون چیرگی نسبی.
‏ دیگه خبری از جهش‌های واقعی نیست و Scaling معجزه نمی‌کنه و هیچ مدلی نسبت به مدل‌های دیگه (مثل زمان عرضه GPT-4) تسلط مطلق و دست‌نیافتنی نداره و اختلاف‌ها ناجیز.

واضحه که AI نمرده ولی دوران و راه‌حل «بزرگترش کن، سخت‌افزار بیشتری بکار‌بگیر، بهتر میشه» به سر رسیده!
‏ برخی شرکت‌ها حالا رفتن سراغ محاسبه زمان پاسخ (test-time compute).

ایده: مدل بیشتر فکر کنه، بهتر جواب بده.

در عمل؟ در ریاضی و کدنویسی کمک می‌کنه؛ چون می‌تونیم داده مصنوعی و جواب درست بسازیم.

ولی هنوزم اشتباه می‌کنه، توهم می‌زنه، و استدلال فقط ظاهریه.
‏ مارکوس می‌گه این مدل‌ها فقط «الگوهای استدلال انسان» رو تقلید می‌کنن.
نه منطق دارن، نه درک مفاهیم انتزاعی.

تو کدنویسی خوبن، ولی تو دیباگ‌کردن افتضاحن!

و هیچ‌کس نمی‌دونه چرا مثلا یه مدل جدید بیشتر توهم می‌زنه؛ چون همه‌شون «جعبه‌سیاه» هستن.
‏خلاصه، با وجود پیشرفت‌ها، مدل‌ها همچنان دچار توهم، اشتباهات منطقی، و ناتوانی در تجزیه‌وتحلیل مفهومی هستند. آن‌ها در تکرار اطلاعات موجود خوب‌اند، اما در حل مسائل جدید نه‌چندان.

از طرفی هرچقدر بیشتر سرمایه بیشتری ریخته میشه در AI، به همان میزان بازدهی در حال نزولی‌تر شدن هست!
‏مارکوس هشدار میده که:

- ارزش‌گذاری‌های عظیم (مثلا ۳۰۰ میلیارد دلار برای OpenAI) احتمالا توجیه‌ناپذیر هستن و باعث شکل‌گیری حباب اقتصادی شده.

- وی نگرانه که شرکت‌هایی نظیر OpenAI به سمت مدل درآمدی مشابه فیسبوک برن: فروش داده‌های خصوصی کاربران جهت تبلیغات هدفمند یا به دولت‌ها.
‏مارکوس معتقده حتی بدون رسیدن به AGI هم خطرات AI جدی هستن:

- انتشار اطلاعات غلط (چون کاربران توهمات AI رو معمولا بدون Fact Check قبول می‌کنن).
- سواستفاده‌های زیستی و استفاده در بیوتروریسم توسط بازیگران بد (Bad Actors).
- فروش داده‌های کاربران به سبک فیس‌بوک.
‏ اگر AGI اتفاق نیافته شرکت‌ها جهت جلوگیری از ورشکستگی و رضایت سهامداران چاره‌ای جز فروش داده‌های کاربران به نهادهای امنیتی یا تبلیغ‌دهندگان نخواهند داشت.

بازار داره اشباع میشه:
همه دارن یه کارو می‌کنن، قیمت‌ها می‌ریزه و جهش واقعی نداریم
مگر اینکه یه نوآوری واقعی اتفاق بیفته.
‏ وی معتقده که بدون معماری جدید، مدل‌های زبانی بزرگ ما رو به AGI نمی‌رسونن. اما امیدواره که مسیرهای جایگزین شکل بگیرن و سرمایه‌گذاری به سمت اون‌ها سوق پیدا کنه.

پیشنهاد خودش: Neurosymbolic AI و نمونه بسیار موفق AlphaFold که ساختار پروتئین‌ها رو حل کرد.
‏ در واقع به جای مدل‌های جعبه سیاه عظیم ولی ناقص، اگر به استفاده از مدل‌های نوروسیمبولیک با ترکیب تشخیص الگو (LLMها) با منطق(logic)، قوانین (rules) و استدلال (reasoning) و شبکه‌های عصبی رو بیاریم، همزمان قدرت یادگیری، قابلیت استدلال و صحت سنجی رو خواهیم داشت.
مارکوس شاید در سیلیکون‌ولی محبوب نباشه،
چون با صدای بلند داد میزنه که: «پادشاه لخته»!
اما پیش‌بینی‌هاش داره درست از آب درمیاد‏ آیا مارکوس صلاحیت داره؟